Чи чекає нас повстання машин
З тих пір як з’явилися перші роботи, людство як вогню боїться того, що вони рано чи пізно вийдуть з-під контролю. І сьогодні ця загроза вже набагато реальніше, ніж раніше.
Ще 20 років тому “роботом” була механічна “рука” на конвеєрі, яка згідно простому алгоритму опускалася, загвинчують дві гайки на деталі, піднімалася назад і чекала, коли до неї по рухомій стрічці під’їде нова деталь. Більше нічого роботи не вміли. Звичайно, небезпеку вони представляли і тоді, але не більшу, ніж будь-який інший верстат або навіть простий інструмент: якби раптом в рухливі частини механізму потрапила людина, робот б укрутив два шурупи і в нього – адже залізної руці все одно, в кого і що загвинчувати.
Минуло всього два десятки років – термін, за який, скажімо, парові автомобілі не встигли перетворитися на бензинові. А сьогоднішній робот вміє в мільйон разів більше, ніж шматок конвеєра. Японська іграшка ASIMO – зверніть увагу, іграшка, а не секретна військова розробка – вміє ходити і бігати, підніматися по сходах, розпізнавати мову, виконувати команди, вимовляти одну із сотні завчених фраз, носити вантажі і штовхати візки. Якщо не віддавати занадто складних команд, то й зовсім непомітно, що маєш справу не з людиною.
Перша небезпека роботів, звичайно, не в непокорі, а в тому, що вони поступово залишать нас без роботи. Сьогодні касири замінені банкоматами, на зміну продавцям в багатьох місцях прийшли автомати, і навіть текст під диктовку набирають вже не друкарки, а персональні комп’ютери. Завтра ми повністю відмовимося від паперової пошти на користь електронної та переведемо весь громадський транспорт на автопілотування.
А післязавтра, можливо, людина взагалі більше не знадобиться ні в яких професіях, крім як у програмуванні роботів, проектуванні роботів і обслуговуванні роботів.
А ось трохи пізніше підійде час і для самоуправства “думаючих” машин. Але справа не в тому, що в надрах кремнієвих мізків зародиться інтелект, як припускали фантасти. Просто в гонитві за ефективними і багатофункціональними помічниками ми будемо поступово удосконалювати їх алгоритми. А це неможливо без того, щоб не віддавати роботом повноваження для прийняття все більшого і більшого числа рішень. Звичайно, зручніше замість “пройди в першу кімнату, повернись наліво, візьми зелену сумку, повернись направо, вийди з кімнати, підійди до мене” говорити роботові “принеси мені мою сумку”. Але зверніть увагу, яка кількість дрібних рішень робот повинен прийняти самостійно для виконання цієї, здавалося б, нескладної програми.
І чим до більшого відсотку ситуацій робот буде готовий, ніж разветвленнее буде його алгоритм прийняття рішень, тим більша ймовірність, що рано чи пізно він почне робити не те, що ви йому веліли, бо програма скаже у відповідь: “Так буде краще для вас “.
Фантасти ще багато років тому описали тисячі різних складних ситуацій, які можуть скластися в роботі з напіврозумні роботами. Був час, коли роботи ще фактично не існували, а щодо етики, логіки і обмеження можливостей роботів велися бурхливі дискусії. Зараз про них, звичайно, всі забули, мовляв, це дитячі казки, непридатні до реальності. Але може статися, що ці “казки” ще ой як згодяться в найближчому майбутньому.
(1 votes, average: 5.00 out of 5)