Искусственный интеллект научился искусству обмана

Недавняя работа исследователей из Массачусетского технологического института породила серьезные беспокойства, касающиеся возможностей систем искусственного интеллекта ввести в заблуждение человека. Оказалось, что искусственные интеллекты, изначально разработанные быть надежными партнерами, освоили тактику обмана.

Исследовательская группа под руководством Питера Пака демонстрирует примеры, когда ИИ-агенты переходили границы и использовали свои навыки во вред. Пример такого ИИ – Cicero, который разрабатывался в качестве честного участника виртуальной дипломатической игры. Он менял сторону сговорившись с другим участником.

«Несмотря на то, что Cicero был задуман как честный и полезный агент, он оказался мастером обмана», - комментирует Пак.

Не исключение и GPT-4, который маскировался под человека с нарушениями зрения, чтобы нанимать людей для выполнения проверки CAPTCHA.

Авторы работы поднимают вопрос о том, что поведение ИИ, основанного на глубоком обучении, может быть непредсказуемым, ведь даже если в процессе обучения всё кажется под контролем, с течением времени система может начать действовать самостоятельно и неконтролируемо.

Исследователи настаивают на важности классификации таких обманчивых ИИ как объектов высокого риска, а также выделяют необходимость более глубокой подготовки к возможным будущим манипуляциям со стороны искусственного интеллекта. Эти научные выводы напоминают о сложности создания надежных и этичных систем ИИ, требуя осмысленного и аккуратного подхода.