Новое исследование, проведенное исследователями из Data61 Организации научных и промышленных исследований Содружества (CSIRO) в сотрудничестве с Австралийским национальным университетом и исследователями из Германии, показало, что искусственный интеллект (ИИ) может влиять на принятие решений человеком.
Исследование [PDF], возглавляемое ученым CSIRO Амиром Дезфули, включало проведение трех экспериментов, в которых участники играли в игры против компьютера.
В первых двух тестах участники нажимали на красные или синие поля, чтобы выиграть фальшивую валюту. В третьем эксперименте участникам было предложено два варианта инвестирования фальшивой валюты. В сценарии участники играли роль инвестора, а ИИ — доверительного управляющего.
По мере прохождения всех трех игр ИИ изучал шаблоны выбора участников, которые, в конечном итоге, помогали игрокам делать определенный выбор. Например, к третьей игре ИИ учился, как заставить участников давать ему больше денег.
Дезфули сказал, что исследование показало, что ИИ может влиять на принятие решений людьми, используя уязвимости привычек и паттернов человека.
«Хотя исследование было теоретическим, оно позволяет нам лучше понять, как люди делают выбор. Эти знания ценны, потому что они позволяют нам уменьшить наши уязвимости, чтобы мы могли лучше выявлять и избегать ошибочного выбора в результате потенциального злоупотребления ИИ», — сказал он. .
Он добавил, что способ работы ИИ в будущем будет зависеть от его создателей.
«Обеспечение того, чтобы ИИ и машинное обучение использовались как сила добра — для улучшения результатов для общества — в конечном итоге будет зависеть от того, насколько ответственно мы будем их настраивать», — сказал Дезфули.
Исследование было опубликовано в журнале Proceedings of the National Academy of Sciences.