У міру того як роботи приживаються у нас в будинках, вони можуть красти секрети вашого життя, якими ви не хочете ділитися, вважають два експерта в законах робототехніки та філософії технологій. У лютому жінка з Південної Кореї спала на підлозі, коли робот засмоктав вакуумом її волосся, змусивши викликати невідкладну допомогу. Можливо, це не похмуре майбутнє, про яке попереджав Стівен Хокінг, – коли розумні пристрої «проголосять кінець людської раси» – але такий випадок підкреслює несподівані небезпеки запрошення роботів в наші будинки.
Є багато інших прикладів, коли розумні технології божеволіють, але частіше вони пов’язані з яким-небудь обманом, а не фізичною небезпекою. Шкідливі боти, розроблені зловмисниками, повсюдно тусуються на сайтах соцмедіа і всюди в онлайні.
Мобільний додаток для знайомств Tinder, наприклад, часто наповнюють боти, що видають себе за реальних людей, які намагаються маніпулювати користувачами і витягти з них інформацію про кредитну картку. Нескладно припустити, що такі роботи-зловмисники дуже скоро можуть проникнути і в наш фізичний світ.
Тим часом з’являється все більше свідчень на користь того, що ми схильні розголошувати наші найпотаємніші секрети антропоморфним роботам, чиї милі личка приховують експлуататорський код – діти так давно роблять. Як же захистити себе від ведучих подвійну гру десептиконів?
Після того як ви запросили робота в свій будинок, ви повинні приборкати свої очікування. Фільми та реклама, можливо, навчили вас очікувати класної взаємодії з милим домашнім роботом, але перед нами ще довгий шлях, перш ніж вони стануть соціально активними, як це показують на екрані. Враховуючи прірву між очікуванням і реальністю, важливо уникнути обману в стилі «Чарівника країни Оз», коли користувачі готові повірити, що роботи діють автономно, але насправді оператор повинен дистанційно керувати їхніми діями.
Переоцінка та недооцінка роботизованих систем може стати особливо гострою проблемою в тих випадках, коли користувачі відчувають себе комфортно з бездушним пристроєм, якому розкривають інтимну інформацію про себе. Наприклад, існує сервіс «Невидимий хлопець». За щомісячну передплату на телефон відправляються романтичні тексти і голосові повідомлення від підробленого коханця. І хоча компанія спочатку планувала зробити сервіс повністю автоматизованим, технології були недостатньо складні, тому в реальності амурні листи довелося робити реальним працівникам. Однак не всі користувачі здогадуються, як працює така система, тому безсоромно вважали, що спілкуються з комп’ютером, видаючи йому всі свої брудні думки, або, навпаки, думали, що спілкуються з реальною людиною, вимагаючи від машини занадто багато чого.
Посил очевидний: у міру того як роботи стають все більш підключеними до Інтернету і здатними реагувати на природню мову, потрібно бути особливо пильним щодо того, з ким або з чим ви спілкуєтеся.
Також варто серйозно задуматися про те, де зберігається вся відправлена інформація і кому вона буде відправлятися, коли роботи зможуть записувати кожен наш крок. Деякі записуючі пристрої, спроектовані для розваги, можуть відповідати більш каверзним цілям. Наприклад, Nixie, носима камера, яка може злітати з вашого зап’ястя і робити знімки з повітря навколо вас. Не складно припустити, до чого можна пристосувати таку технологію.
Більшість людей захищають свої секрети в присутності записуючих пристроїв. Але що може статися, коли ми звикнемо до домашнього робота, який буде слідувати за нами? Ми послабимо свою пильність, порахувавши таких роботів членами родини. Якщо технології навколо нас можуть записувати й обробляти мову, зображення і рух – не кажучи вже про наші секрети – що буде з цією всією інформацією? Де вона буде зберігатися, хто отримає до неї доступ?
Якщо історія Інтернету чогось нас і навчила, так це тому, що всі ці деталі на вагу золота для рекламних компаній. Якщо ми звикнемо до роботів, прийшли в наше повсякденне життя, наші слова і вчинки, можливо, поставлять нас під загрозу.
Який безпечний спосіб вітати роботів в наших будинках, громадських місцях і соціальному житті? Ми повинні з обережним оптимізмом вважати розумні машини нашими супутниками, визнаючи при цьому необхідність окреслення суворих меж для роботів, здатних обманювати і маніпулювати.