Професор: незначителна грешка в кода може да превърне безобиден робот в масов убиец

Достатъчна е незначителна грешка в кода, за да излезе един боен робот извън контрол, смята Субхаш Как, професор по компютърни науки към университета в Оклахома. Според специалиста, лошо програмираните бойни роботи могат да намерят дупка в собствения си софтуер и да се възползват от нея, за да вземат самостоятелни решения. В резултат, това отначало ще доведе до единични, а след това  до масови убийства.

“Поради грешки в кода, в робота могат да се появят “мисли” аналогични на тези на хората-фанатици”, – твърди професорът. При това, независимо от новите технологии, които предотвратяват срив на програмите, рискът роботът да започне да се държи самоволно и да започне да убива по собствено усмотрение, е доста висок.

Освен това, опасност представлява и недоработеният и недостатъчно тестван софтуер. Професорът обяснява, че това може да доведе до поредица от вътрешни проблеми, поради които машината ще започне да се ръководи само от отделни фрагменти на кода. Специалистите предупреждават, че като се има предвид неизбежността от създаването на автономни бойни системи, роботите могат случайно да предизвикат трета световна война, жертви на която ще станат не по-малко от половината жители на Земята.

И накрая, според професора, роботите носят и по-малко очевидни заплахи. Например, автоматизацията на производството може да доведе до екзистенциална криза за по-голямата част от човечеството. “Работата дава на хората усещане за собствената им значимост. Загубата на работни места може да лиши мнозина от смисъла на живота”, – казва професор Как.

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *

%d блогъра харесват това: