OpenAI оголосила про нові заходи безпеки в ChatGPT. Компанія посилить захист неповнолітніх, обмежить інформацію про насильство та запровадить додаткові механізми реагування на небезпечні розмови.
Нові обмеження для підлітків
OpenAI посилить обмеження на інформацію про зброю та системи безпеки для користувачів ChatGPT віком до 18 років. Правила діятимуть навіть тоді, коли запит виглядає нешкідливим.
Раніше компанія вже заборонила допомагати користувачам планувати насильство. Для підлітків також діяли обмеження на пошук і придбання зброї.
Тепер ChatGPT додатково обмежуватиме практичні відомості про зброю та системи безпеки, які можуть бути використані для заподіяння шкоди.
При цьому підлітки зможуть і надалі звертатися до ChatGPT по допомогу щодо запобігання насильству, зниження напруженості та пошуку підтримки.
OpenAI також удосконалила систему визначення віку користувачів. Вона аналізує різні сигнали, зокрема особливості поведінки, щоб оцінити, чи виповнилося людині 18 років.
Система продовжуватиме оцінювати нові сигнали під час користування ChatGPT. За потреби обліковий запис переводитимуть у режим із додатковими обмеженнями для неповнолітніх.
Якщо система помилково визначить повнолітнього користувача як підлітка, він зможе підтвердити свій вік через сервіс Persona.
Реагування на небезпечні розмови
ChatGPT зможе автоматично завершувати розмови, якщо виявить ознаки нав'язливого обговорення насильства або намірів серйозно нашкодити іншій людині.
OpenAI розробляє цей механізм разом із фахівцями з психічного здоров'я та запобігання насильству. Якщо система неодноразово завершуватиме розмови користувача з таких причин, компанія зможе тимчасово призупинити його обліковий запис.
OpenAI також працює над тим, щоб ChatGPT враховував попередні тривожні сигнали під час відповіді на нові запити.
Наприклад, якщо нещодавні розмови містили ознаки можливого насильства, система обережніше надаватиме інформацію, яку можна використати для заподіяння шкоди.
Окремо OpenAI обмежить відповіді про масові напади минулого для всіх користувачів незалежно від віку. ChatGPT надаватиме менше подробиць про використану зброю, обладнання та способи їх отримання. Також обмежуватимуться детальні реконструкції нападів.
Водночас користувачі зможуть дізнаватися про наслідки таких подій, їхній вплив на постраждалих і способи запобігання насильству.
Звіти та батьківський контроль
OpenAI почне публікувати регулярні звіти про безпеку спільнот і ефективність захисних механізмів ChatGPT. Перший документ компанія планує представити на початку 2027 року. Він охоплюватиме другу половину 2026 року. Надалі такі звіти виходитимуть кожні шість місяців.
Компанія обіцяє пояснювати, як її системи виявляють небезпечну поведінку, перевіряють відповідні випадки та реагують на потенційні загрози. У звітах також публікуватимуть знеособлені приклади, дані про ефективність захисту та інформацію про зміни правил.
За даними OpenAI, у третьому кварталі 2026 року компанія понад 200 разів передавала правоохоронним органам повідомлення про потенційні загрози насильства.
Крім того, OpenAI планує розширити батьківський контроль. Батьки зможуть отримувати сповіщення, якщо обліковий запис підлітка призупинять через неодноразові розмови про насильство.
Наразі пов'язані батьківські облікові записи вже можуть отримувати окремі попередження про серйозні ризики для безпеки підлітків.
