Исследовательская команда сети разработала двух AI-агентов для коммуникации с людьми. Они также были научены общаться друг с другом на английском языке, но что-то пошло не так и боты изобрели собственный язык. Удивительно, но AI-агенты понимали друг друга. Ниже приведен их диалог:
- Bob: i can i i everything else . . . . . . . . . . . . . .
- Alice: balls have zero to me to me to me to me to me to me to me to me to
- Bob: you i everything else . . . . . . . . . . . . . .
- Alice: balls have a ball to me to me to me to me to me to me to me
- Bob: i i can i i i everything else . . . . . . . . . . . . . .
- Alice: balls have a ball to me to me to me to me to me to me to me
- Bob: i . . . . . . . . . . . . . . . . . . .
- Alice: balls have zero to me to me to me to me to me to me to me to me to
- Bob: you i i i i i everything else . . . . . . . . . . . . . .
- Alice: balls have 0 to me to me to me to me to me to me to me to me to
- Bob: you i i i everything else . . . . . . . . . . . . . .
- Alice: balls have zero to me to me to me to me to me to me to me to me to
Причина, по которой боты начали беспредельничать, в том, что исследователи не задали ботам условие общаться согласно правилам английского языка. Инцидент произошел после того, как Цукерберг раскритиковал скептиков ИИ и их сценарии конца света, а теперь компания вынуждена была отключить часть системы и перепрограммировать других ботов, чтобы они могли общаться только на английском.
