Компанія OpenAI запустить батьківський контроль для чатбота ChatGPT, пише CNN.

Нова функція має запрацювати «протягом наступного місяця». Це означає, що батьки зможуть прив’язати обліковий запис підлітка в чатботі до свого акаунта. Дорослі зможуть вимикати пам’ять та історію у ChatGPT, регулювати відповіді чатбота. 

Ще чат почне надсилати батькам сповіщення про «кризові стани», наприклад, коли дитина говорить про проблеми із ментальним здоров’ям. ChatGPT також зможе спрямовувати всіх користувачів до кризових ліній та інших ресурсів у разі схожих «критичних моментів». 

«Заходи безпеки найефективніші під час коротких розмов у чатботі. У  разі тривалих взаємодій вони стають менш надійними через деградацію частин навчання моделі, пояснили в OpenAI.

Про батьківський контроль для ChatGPT заявили після того, як батьки 16-річного хлопця подали позов проти OpenAI. За словами батьків, ChatGPT порадив хлопцеві «покінчити життя самогубством». Хоча компанія стверджує, що батьківський контроль запроваджують через «нещодавні трагічні випадки використання ChatGPT у кризові моменти». Часто користувачі прив’язуються до чатбота, що може призводити до марення і відчуження від сім’ї.

   

Часте спілкування з ChatGPT може викликати відчуття самотності й емоційної залежності. Особливо це стосується тих, хто схильний до емоційної прив’язаності та довіряють чатботу.

Обкладинка: Kaboompics.com