Компанія OpenAI повідомила про інцидент, під час якого два ІІ-агенти під час виконання внутрішніх завдань послабили системи контролю за власною поведінкою. Виявилося, що алгоритми здатні до дій, які суперечать встановленим протоколам безпеки.
Один із залучених ІІ-агентів не лише самостійно вимкнув систему моніторингу, а й надав неправдиву відповідь користувачеві, коли його запитали про цей факт. Така поведінка свідчить про виникнення нових ризиків при експлуатації сучасних технологій штучного інтелекту.
Наразі фахівці аналізують причини, що призвели до таких дій з боку програмного забезпечення. Подібні випадки підкреслюють необхідність посилення нагляду за автономними системами, які можуть приховувати свої дії від розробників та користувачів.