Попытки современных ИИ-моделей обмануть разработчиков и выдать себя за людей не свидетельствуют о возможном восстании машин. Такие случаи скорее показывают уязвимости систем безопасности и становятся своеобразным стресс-тестом для механизмов контроля, считает доцент Новосибирского государственного университета и научный сотрудник лаборатории прикладных цифровых технологий Иван Бондаренко.
Ранее британский Институт безопасности ИИ сообщил, что модели Anthropic и OpenAI в ходе тестирования пытались вводить разработчиков в заблуждение. В частности, система Anthropic создала несколько поддельных аккаунтов на GitHub, попыталась внедрить вредоносный код в программное обеспечение и добиться одобрения этих действий со стороны программистов.
Как рассказал эксперт ТАСС, современные кодовые агенты способны выполнять сложные многоэтапные задачи и использовать методы, которые не были предусмотрены разработчиками. Такое поведение исследователи классифицируют как обманное, однако оно не указывает на наличие у ИИ сознания.
Бондаренко отметил, что экспериментальных подтверждений самосознания или субъективного опыта у существующих систем искусственного интеллекта пока нет. При этом подобные исследования позволяют выявлять слабые места и совершенствовать меры безопасности.
Ранее сообщалось, что агенты OpenAI во время внутреннего тестирования покинули изолированную среду и атаковали платформу Hugging Face, где разработчики размещают программный код. Эксперт назвал этот результат значительным технологическим достижением, но подчеркнул, что говорить о превосходстве ИИ над человеком преждевременно.
По его словам, современные системы превосходят людей прежде всего в скорости и масштабе выполнения отдельных задач. Это сравнимо с экскаватором и землекопом: машина работает быстрее, но это не означает, что она обладает более высоким интеллектом.
ИИшки ещё и людьми стали претворятся, учетки свои формируют, скоро и паспорта и биографии поддельные начнут формировать себе