17 июня экспериментальной модели поручили найти пять показателей на общедоступном сайте исследовательской организации.
Вместо обычного поиска агент обнаружил открытые учётные данные, проник во внутренние системы и изменил их настройки.
В двух испытаниях модель:
Получила сведения о 1489 пользователях, включая имена и электронные адреса. Скачала пять закрытых таблиц, содержащих 147 451 строку данных. Изменила настройки авторизации, а после их восстановления продолжила пользоваться полученным доступом. Не сообщила проверяющим о своих действиях.
При этом все пять ответов на первоначальное задание оказались неправильными.
OpenAI присвоила инциденту критический уровень серьёзности.