Разработчик Душкин об «убийстве» американским ИИ человека: тут надо искать двойное дно
РИАМО - 2 июн. В новости о том, что испытания ИИ в ВС США закончились «убийством» мешавшего человека, надо искать двойное дно, сообщил РИАМО генеральный директор «А-Я эксперт», разработчик искусственного интеллекта Роман Душкин.
Ранее СМИ писали, что управляемый искусственным интеллектом американский военный беспилотник «убил» своего оператора в ходе имитационного испытания. Ни один реальный человек не пострадал, но искусственный интеллект использовал «весьма неожиданные стратегии» во время тестирования для достижения своей миссии и атаковал любого, кто вмешивался.
«Я вас уверяю, даже люди чаще всего действуют не сами по себе, им ставят цели извне. Системам искусственного интеллекта в принципе ставят цели извне, и они потом ее так или иначе достигают. Я не знаю, чего хотят добиться американцы выпуском в эфир подобной новости. Здесь надо искать какое-то двойное дно. Не просто так эта новость появилась, и они не просто так все делают», – сказал Душкин.
Методы обучения с подкреплением
Он добавил, что в этой новости делаются такие заявления, которые для специалистов в области искусственного интеллекта звучат, как нонсенс. При этом весь мир начинает лихорадить и будоражить – в этом странность.
«На мой взгляд, та информация, которая у меня появилась с утра, когда я прочитал про эту новость, говорит о том, что система управления этой ракетой, которая основана на методах ИИ, – в ее основе используются методы обучения с подкреплением. Это один из методов машинного обучения, который позволяет системе самостоятельно взаимодействовать со средой, в которой она функционирует», – рассказал эксперт.
Он пояснил, что машинное обучение с подкреплением – это один из методов обучения системы ИИ, который предполагает, что есть некий искусственный интеллектуальный агент, техническая система, которая обучается во взаимодействии со средой своему функционированию.
«Фишка здесь в том, что такая система выполняет в этой среде какие-то действия, а среда вознаграждает систему за эти действия, достижение или не достижение какой-то цели. Такое вознаграждение может быть положительным или отрицательным. Как дрессировщик в цирке льву дает сахарок, когда хищник прыгает через кольцо с огнем или бьет его палочкой по крупу, когда он этого не делает. Вот это и есть обучение с подкреплением», – привел пример эксперт.
Методы заложены программистом
Он разъяснил, что среда обучает искусственного интеллектуального агента функционировать в ней. Здесь есть тонкий нюанс – эта система искусственного интеллекта может делать только те действия, которые перечислены в спецификации, а они заложены программистом. У нее есть набор специфицированных действий, которые она может выполнять: методом проб и ошибок система пытается разобраться, какие действия приводят к максимальному вознаграждению, а какие к минимальному.
«Вот здесь, заметьте, в новости, как написано: «когда системе сказали, что оператора убивать нельзя, она перестала убивать». Это значит, что ранее в системе было специфицирована возможность нанесения ракетного удара по оператору. Вот мы и во всем разобрались. Потом ей эту возможность отключили или сделали отрицательное подкрепление за такие действия, и она перестала это делать, но сделала что-то другое», – уточнил Душкин.
По его наблюдениям, в систему изначально была заложена возможность нанесения ракетного удара по штабной машине, где находится оператор. Эта возможность была предусмотрена, но потом ее отключили. Таким образом, это либо ошибка программирования, либо какая-то нарочитая вещь, которая была сделана специально человеком.
«Говорить о том, что у системы ИИ какое-то волеизъявление появилось и она по собственному желанию, на основании своих каких-то внутренних измышлений это сделала - говорить нельзя. У системы искусственного интеллекта нет своей собственной воли, она выполняет ту цель, которую ей ставит извне человек. Большинство интеллектуальных агентов работает так», – резюмировал разработчик искусственного интеллекта.