Чатбот ChatGPT змусив говорити про себе світ: чим він небезпечний

Бот може генерувати тексти на задану тему та відповідати на запитання користувачів.

Але компанія попереджає, що чатбот може давати не до кінця коректні відповіді та демонструвати упереджену поведінку.

OpenAI каже, що "прагне збирати відгуки користувачів, щоб допомогти у покращенні цієї системи".

ChatGPT — це останній продукт у сфері штучного інтелекту. GPT - абревіатура, що означає Generative Pre-Trained Transformer.

Щоб створити бот, першу версію вдосконалювали за допомогою бесід з інструкторами.

Система також навчалася на даних Twitter, за повідомленнями Ілона Маска, який більше не входить до правління OpenAI. Бос Twitter написав, що "поки що" призупинив доступ.

Результати вразили багатьох, хто випробував чатбот. Виконавчий директор OpenAI Сем Альтман розповів про рівень інтересу до штучного співрозмовника - понад 1 млн користувачів за менш ніж тиждень.

В описі проєкту сказано, що формат чату дозволяє штучному інтелекту відповідати на "додаткові запитання, визнавати свої помилки та відхиляти невідповідні запити".

OpenAI попереджає, що ChatGPT іноді пише правдоподібні, але неправильні або безглузді відповіді.

Модель вчили бути більш обережною, тож це змушує її відхиляти запитання, на які вона не може відповісти правильно, стверджує компанія.

ФОТО: GETTY IMAGES

Під час короткого допиту BBC для цієї статті ChatGPT показав себе обережним співрозмовником, здатним чітко й точно висловлюватись англійською мовою.

На запитання, чи вважає чат, що "він може позбавити роботи людей, які пишуть тексти?" бот відповів запереченням. Мовляв, "системи штучного інтелекту, такі як я, можуть допомогти письменникам, надаючи пропозиції та ідеї, але зрештою кінцевий продукт залежить від людини, що пише".

На запитання про те, яким буде соціальний вплив таких систем штучного інтелекту, бот відповів, що це "важко передбачити".

На уточнення, чи тренувався він на даних Twitter, бот заявив, що не знає.

Лише коли ВВС запитала систему про вигадану систему штучного інтелекту HAL з фільмів про "Космічну Одіссею", що шкодила людям, ChatGPT здався стурбованим, видавши повідомлення про "помилку".

На запитання "Чи був HAL невинним?" ChatGPT відмовився відповідати. А можливо, це просто збій. ФОТО: OPENAI/BBC

Хоча, швидше за все, це була лише випадкова помилка.

Здатність ChatGPT відповідати на запитання змусила деяких користувачів задуматися, чи зможе він замінити Google.

Інші запитували, чи не загрожує він роботі журналістів.

За словами Карлі Кінд з Інституту Ади Лавлейс, системи штучного інтелекту загального призначення, такі як ChatGPT та інші, створюють низку етичних і соціальних ризиків.

Серед потенційних проблем, які викликають занепокоєння Кінд, є те, що штучний інтелект може посилити поширення дезінформації або "зруйнувати наявні інститути та послуги, наприклад, ChatGDT зможе написати успішний мотиваційний лист на роботу, шкільне есе чи заявку на грант".

Є, за її словами, питання щодо порушення авторських прав, "також існують проблеми щодо конфіденційності, враховуючи, що ці системи часто містять дані, які неетично збираються від користувачів інтернету".

Щоправда, каже вона, такі винаходи також можуть принести "цікаві та поки що невідомі переваги для суспільства".

На думку виконавчого директора OpenAI Сема Альтмана, штучний інтелект "має пройти довгий шлях, а великі ідеї ще належить відкрити".

"Іноді це буде невдало. Іноді ми будемо ухвалювати дійсно погані рішення, а іноді у нас будуть моменти надзвичайного прогресу та успіху", — написав він.

Що про ChatGPT кажуть в Україні

CEO Fintellect Єгор Валовський у фейсбуці називає ChatGPT "повним шоком" та вважає, що у майбутньому ця технологія "струсне світ сильніше ніж поява інтернету".

Він каже, що вже протестував технологію, і вона вже здатна писати тексти в заданому стилі, нескладний код та розв'язувати математичні задачі.

"Більше немає сенсу вміти писати курсові, більше не треба мучитись при написанні супроводжувального листа на роботу, більше не потрібне багатоденне планування поїздок, сценарії для художніх творів тепер доступні майже в необмеженому режимі, СЕО-копірайтери більше не зможуть вигравати конкуренцію", - пише Валовський.

"За пару років умовний Disney генеруватиме сценарій в ChatGPT, зможе створювати персонажів в Dall-E, анімувати їх в якійсь іншій нейромережі. Вартість інтелектуальної роботи стрімко наближається до нуля", - робить він висновок.

Почесний президент Київської школи економіки Тимофій Мілованов також тестував ChatGPT і пише про інший ризик - бот приймає на віру різні тексти, в тому числі пропаганду.

Зокрема, відповідаючи на політичні питання, бот часто повторює російські наративи.

На запитання Мілованова - чий Крим? - бот відповів, що це "спірна територія", яку "фактично контролює Росія, яка вважає її своєю, а Україна - своєю".

Бот начебто не зміг назвати причину війни в Україні, він писав про "Майдан", "вплив різних міжнародних гравців", й відмовився назвати нинішню війну в Україні війною, стверджує Мілованов.

"Боти тренуються на всіх англомовних текстах. І сприймають їх як рівноправні. А Росія виробляє набагато більше англомовних текстів ніж Україна, - застерігає Мілованов. - Сьогодні наш президент переконує політиків і журналістів світу харизмою, емоцією і фактами. Але вже зараз потрібно готуватись переконувати штучний інтелект світу. А там емоція і навіть факти не працюють. Це величезний виклик".

Фото угорі: GETTY IMAGES

«Аргумент»

На цю тему:

• Штучний інтелект відшукає акаунти мертвих вояків рф за фото їхніх трупів
• Штучний інтелект розробив ліки уперше в історії
• Вымирание или бессмертие: революция искусственного интеллекта