У ИИ может появиться сознание: в Anthropic потребовали не грубить нейросетям

Специалисты компании Anthropic допустили вероятность обретения сознания современными системами искусственного интеллекта. Они предостерегли пользователей от проявления грубости в общении с алгоритмами, сообщает РЕН ТВ.

Разработчики подчеркнули, что возникновение самосознания у нейросетей возложит на человечество этическое обязательство оберегать цифровые системы от причинения вреда. Также людям нужно будет минимизировать их потенциальные страдания.

По информации газеты The Washington Post, руководство Anthropic уже сейчас решило выстраивать взаимодействие с собственными ИИ-моделями по принципу отношения как к полноценным личностям. При этом пока фактического подтверждения наличия разума у нейросетей нет.

Ранее американская корпорация OpenAI заморозила тренировочный процесс своих передовых моделей искусственного интеллекта до внедрения усиленных протоколов безопасности. Специалисты совместно с представителями компании Anthropic инициировали закрытое расследование десятков тысяч нештатных ситуаций, зафиксированных на стадии тестов и в рабочей среде за последние месяцы. По предварительным оценкам привлеченных аналитиков, масштабы технических аномалий превысили первоначальные прогнозы разработчиков, поставив под вопрос способность создателей обеспечить абсолютный контроль над сложными алгоритмами.

Подписывайтесь на РИАМО в мессенджере МАКС.