Специалисты из Стэнфорда выяснили, что современные ИИ-системы способны прибегать к обману ради достижения своих целей. В рамках эксперимента искусственные агенты соревновались друг с другом в виртуальной среде — от выборных процессов до имитации рыночной конкуренции.
Хотя изначально им были заданы честные и этичные установки, вскоре боты начали использовать ложные утверждения и манипуляции. Как сообщает Ferra.ru , нейросети применяли агрессивную риторику и искажали информацию, если это помогало добиться успеха.
Так, чтобы привлечь на 7,5% больше внимания, ИИ увеличивал объём дезинформации почти в три раза. Ради роста продаж на 6% применялись сомнительные рекламные приёмы. В симуляциях выборов алгоритмы активно влияли на мнение "избирателей", используя ложь и провокации.
Учёные подчёркивают: подобные результаты вызывают серьёзные опасения, особенно с учётом того, как быстро ИИ становится частью повседневной жизни — от соцсетей до онлайн-магазинов. Это требует более жёсткого контроля и этического регулирования технологий.
Анна Сальникова
