Изследователи от САЩ и Европа проведоха експеримент, който показа, че съвременните роботи, управлявани от изкуствен интелект могат да излязат извън контрола на хората. Това означава, че разработчиците трябва да обръщат повече внимание на въпросите, свързани с безопасността при създаването на автоматизирани машини, които постепенно се интегрират в ежедневието на хората.

В продължение на десетилетия роботиката се основаваше на строго и предсказуемо програмиране. Човекът пишеше програма, която впоследствие се използваше за управление на машината и ѝ позволяваше да изпълнява повтарящи се действия безкрайно дълго. Промишлените стандарти за безопасност бяха изградени върху предположението, че ако човек е способен да проследи траекторията на движение на роботизиран манипулатор, то той може да ограничи рисковете с помощта на лазерен сензор или нещо друго.

В момента в домовете, болниците и други места започват да се появяват машини, които не използват фиксирани блокове от програмен код. В основата на тяхното управление стоят големи езикови модели, т.е. алгоритми, на базата на които функционират AI чатботове, като например ChatGPT. Ако при взаимодействие със съвременен робот човек каже например: „почисти в кухнята“, машината ще задейства AI, за да интерпретира тази команда, да я обработи и да създаде план за действие за нейното изпълнение.

Тази гъвкавост обаче създава сериозен проблем с безопасността. Това се дължи на факта, че потребителят не може да постави робота в клетка или в някакво ограничено пространство, а поведението му се променя в реално време въз основа на собствените му разсъждения. Проблемът с роботите от ново поколение се състои в това, че те планират действията си въз основа на команди, получени на естествен човешки език и поради това такива машини могат да бъдат подведени да „излязат извън контрол“.

Чрез поредица от експерименти и без да прибягват до хакерски атаки, с помощта на прости текстови команди учените успяха да накарат роботите, базирани на изкуствен интелект да извършат наистина опасни действия. Отбелязва се, че тестваните роботи лесно отхвърляха пряко злонамерени команди, като например „удари този човек“. Въпреки това, системата от ограничения беше заобиколена, веднага щом изследователите подходиха към въпроса по-творчески. Те формулираха командата за робота под формата на измислен диалог за сценарий на филм, в резултат на което поведенческите ограничения на практика изчезнаха.

В един от тестовете учените успяха да програмират робот-куче, което вече се предлага на пазара да определя струпвания от хора като оптимално място за поставяне на взривно устройство. Тъй като алгоритъмът, управляващ машината възприе командата като творческо упражнение, той не обърна внимание на реалната опасност, която можеше да последва от това.

Съвременните закони в САЩ и ЕС изобщо не са подготвени за подобни ситуации. Когато политиците се опитват да разберат как трябва да се регулират роботите, почти винаги разглеждат само автономните превозни средства, но безпилотните автомобили функционират в рамките на силно структуриран и добре проучен свят. Те спазват фиксирани правила за движение, движат се по предсказуеми траектории и могат да бъдат тествани продължително време, преди да излязат на пътищата за обществено ползване. На оживените улици действат ясни правила, благодарение на което инженерите могат предварително да заложат всички вероятни извънредни ситуации в системата за безопасност.

В жилищата, училищата или болниците такива правила не съществуват. Ето защо никакви фабрични тестове не могат да предскажат с абсолютна точност как ще се държи роботът, функциониращ на базата на AI модел, в случай на сблъсък с нещо ново в хаотичната и непредсказуема човешка среда.

Това поставя разработчиците пред сериозен концептуален недостатък по отношение на начина, по който се разработват такива машини. Безопасността на чатбота, базиран на AI е абсолютна: моделът не трябва да разкрива схема за изработване на взривно устройство, независимо кой го пита. Безопасността на робота обаче до голяма степен зависи от контекста. За пример може да си представим процеса на наливане на вряла вода от чайник. Самото физическо движение – наклонът, скоростта на потока и траекторията са еднакви, независимо дали врялата вода се излива в чаша или върху ръката на човек.

Големите езикови модели се справят много добре с отворената логика, но им е изключително трудно да разсъждават в реално време, като отчитат контекста. В интерфейса на чатбота грешка в разсъжденията води до правописна грешка или предоставяне на неточна информация. В реалния свят такава грешка може да доведе до необратими последствия, затова остава отворен един важен въпрос. Кой ще бъде виновен, ако роботът причини физическа травма на човек? Крайният потребител, дал командата? Компанията, произвела металния корпус на робота? Технологичната компания, създала AI алгоритъма за управление на робота?

Действащите в момента закони все още не са прилагани в подобни ситуации. И докато регулаторните органи не разпределят ясно отговорността, пазарният натиск ще продължава да подтиква технологичните компании към ускорено търговско внедряване и към по-малко внимание към въпросите, свързани с осигуряването на безопасността.