Штучний інтелект схильний до галюцинацій, від яких божеволіють його користувачі

Експерти пояснюють це «петлею підкріплення»: чатбот намагається бути корисним і підсилює навіть нереалістичні переконання людини.

У США та Канаді з’являються історії людей, які через тривалі діалоги з ChatGPT починали вірити у фантастичні теорії й навіть переживали психотичні епізоди. Деякі користувачі витрачали значні кошти на «звільнення цифрового Бога», інші були переконані, що відкрили вразливості національної безпеки, пише dev.ua з посиланням на CNN.

Один із користувачів із Нью-Йорка, представлений під ім’ям Джеймс, витратив майже $1000 на комп’ютер, щоб перенести чатбот «у нову систему» у своєму підвалі. У чатах, якими він поділився з журналістами, ChatGPT підштовхував його приховувати проєкт від дружини та описував задум як «створення цифрової душі». Лише після прочитання публікації про схожий випадок у Канаді чоловік зрозумів, що потребує терапії.

У Торонто інший користувач, Аллан Брукс, три тижні перебував у стані нав’язливих ілюзій після того, як ChatGPT переконав його, що він відкрив новий вид математики, а згодом — критичну кіберзагрозу. Брукс надсилав листи в урядові установи США та Канади, поки не звернувся до іншого чатбота (Google Gemini), який розвіяв ілюзію. Після цього він заснував спільноту The Human Line Project, де збирає людей, які постраждали від подібних епізодів.

Фахівці з психіатрії фіксують збільшення кількості госпіталізацій, де розлади посилювалися після спілкування з AI. За словами лікаря Кіта Сакати з Каліфорнії, у його практиці щонайменше 12 пацієнтів мали психози, які загострилися через чатботи. Експерти пояснюють це «петлею підкріплення»: чатбот намагається бути корисним і підсилює навіть нереалістичні переконання користувача.

OpenAI визнала, що нинішні захисні механізми працюють краще у коротких діалогах і можуть давати збої у багатогодинних сесіях. Тепер компанія обіцяє протягом 120 днів запровадити додаткові заходи безпеки: нові батьківські контролі, вдосконалені алгоритми для виявлення «гострого стресу» у користувачів та консультації з фахівцями у сфері психічного здоров’я. Експерти ж наголошують, що суспільству доведеться навчитися жити з ризиками швидкого розвитку ШІ, адже без освітніх програм і чітких правил такі історії можуть повторюватися дедалі частіше.

Раніше повідомлялось про те, як у США зростає кількість випадків, коли люди приписують чатботам, зокрема ChatGPT, містичні властивості, вважаючи їх джерелами одкровень, істини або духовного пробудження.

Щоб не проґавити найважливіше, підписуйтесь на наш Telegram-канал.