Обережно із запитами: діалоги з ChatGPT можуть потрапити до поліції

Компанія OpenAI сканує діалоги користувачів у ChatGPT. У деяких випадках їх навіть можуть передати у поліцію. Йдеться, наприклад, про запобігання реальному злочину або самогубству.

На сторінці OpenAI опублікували роз'яснення щодо своєї політики безпеки. 

"Оскільки впровадження ChatGPT зростало по всьому світу, ми спостерігали, як люди звертаються до нього не лише для пошуку, кодування та написання текстів, а й для прийняття глибоко особистих рішень. У таких масштабах ми іноді стикаємося з людьми, які переживають серйозні психічні та емоційні розлади", — йдеться у повідомленні.

Мета компанії — зробити ChatGPT максимально корисним для людей, тому експерти продовжують вдосконалювати систему та розпізнавати та реагувати на ознаки психічного та емоційного дистресу, а також надавати людям допомогу.

"Наприклад, якщо хтось пише, що хоче завдати собі шкоди, ChatGPT навчений не виконувати інструкції, а натомість визнавати їхні почуття та спрямовувати їх до допомоги. Крім того, відповідно до нашого підходу до глибокошарового захисту, відповіді, що суперечать навчанню з безпеки наших моделей, визначеним нашими класифікаторами, автоматично блокуються, з посиленим захистом для неповнолітніх та використання без авторизації", — зауважили у компанії.

Якщо хтось висловлює суїцидальний намір, ChatGPT навчений направляти людей до професійної допомоги. У США ChatGPT направляє людей на номер 988 (гаряча лінія для самогубств та кризових ситуацій), у Великій Британії — на службу Samaritans, а в інших місцях — на findahelpline.com (відкриється в новому вікні). Ця логіка вбудована в поведінку моделі.

"Коли ми виявляємо користувачів, які планують завдати шкоди іншим, ми спрямовуємо їхні розмови до спеціалізованих каналів, де їх перевіряє невелика команда, навчена нашим політикам використання та уповноважена вживати заходів, зокрема блокувати облікові записи. Якщо експерти визначать, що справа пов’язана з безпосередньою загрозою серйозної фізичної шкоди іншим, ми можемо передати її до правоохоронних органів. Наразі ми не передаємо справи про самоушкодження до правоохоронних органів, щоб поважати конфіденційність людей, враховуючи унікально приватний характер взаємодії ChatGPT", — йдеться у заяві.

Нагадаємо, на початку серпня OpenAI офіційно випустила свою нову флагманську мовну модель GPT-5, яка вже доступна для користувачів ChatGPT і розробників. Водночас для безплатного користування сервісом передбачено обмеження на кількість запитів, які можна зробити.