В России запретят с помощью ИИ манипулировать поведением человека

Разработчики систем искусственного интеллекта (ИИ) будут обязаны сообщать ихпользователям онедопустимости использования нейросетей для манипулирования поведением иэксплуатации уязвимостей человека. Это следует иззаконопроекта обискусственном интеллекте, который разработан Минцифры исейчас проходит межведомственное согласование, пишут «Известия».

Aree_S/Shutterstock/Fotodom

Под эксплуатацией уязвимостей взаконе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических идругих) для «целенаправленного воздействия наповедение, принятия решений или несанкционированного доступа кинформации».

«Запрет распространяется прежде всего наоператоров иразработчиков систем ИИ— тоесть, наорганизации икомпании, которые внедряют такие системы всервисы, приложения или продукты. Посути, „объяснить“ это роботу можно так: система ИИнедолжна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека крешениям, которые онбы непринял без скрытого давления или манипуляции»,— полагает ведущий эксперт вобласти ИИ«Университета 2035» Ярослав Селиверстов.

Пословам эксперта, ИИспособен влиять наповедение человека через анализ данных онем иперсонализацию контента— например, подбирая сообщения, рекомендации или интерфейсы, которые повышают вероятность нужного действия. Такие технологии могут использоваться врекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, срочности или эмоциональной реакции, утверждает Селиверстов.

Оригинал статьи тут