www.ji-magazine.lviv.ua

Інна Гадзинська, Анатолій Бондаренко

Вдосконалення навичок інструментів штучного інтелекту (ШІ) в когось викликає захват, у когось паніку, а в багатьох питання, що саме і як швидко змінюватиметься у світі у зв’язку з розвитком цих технологій.

Анатолій Бондаренко - співзасновник Texty.org.ua та людина, яка започаткувала журналістику даних в Україні, розповідає про те, як штучний інтелект змінює світ, зокрема інформаційне середовище, і які несе загрози. Анатолій зараз не має змоги постійно працювати в редакції, проте відслідковує останні досягнення ШІ у світі.

На тлі розмов про загрозу нового російського наступу розмова про виклики та ШІ може видатися несвоєчасною.

Але, по-перше, технології на основі ШІ вже активно використовуються на війні — це і аналіз супутникових знімків для визначення потенційно вразливих місць завдання ударів, і керування безпілотними системами, і поширення штучно згенерованих фейків для дезінформації та пропаганди. По-друге, це важливо для розуміння світового контексту, на тлі якого триває наша війна на виживання.

— Зараз багато обговорюють нові навички ШІ. Які з них є визначальними?

Термін “штучний інтелект” є таким хайповим уже років десять-дванадцять, відколи ця сфера дістала з низки причин новий потужний поштовх і почала дуже активно розвиватися.

Найчастіше це окремі інструменти, що виконують окремі завдання і мають навички обмеженого, або вузького, штучного інтелекту. Йдеться про глибинні нейронні мережі, які почали виконувати те, що раніше вважалося неможливим. Раніше для кожного завдання потрібно було створювати спеціальний алгоритм, ретельно обирати щось із даних, на яких його тренувати. З глибинними нейронними мережами все інакше: береш велику кількість даних, потужну відеокарту, правильну архітектуру мережі — і вона сама знаходить потрібні патерни в даних.

ВЕЛИКУ РОЛЬ У РОЗВИТКУ ШТУЧНОГО ІНТЕЛЕКТУ ВІДІГРАЛИ СОЦМЕРЕЖІ

Велику роль у цьому процесі відіграли соцмережі, завдяки яким в інтернеті з’явилася величезна кількість різноманітного контенту, тобто даних для навчання нейронних мереж. Зараз два беззаперечних лідери в цьому процесі — США і Китай — активно тренують свої моделі на такому контенті.

Ці моделі з кожним роком вирішують дедалі більше завдань, які раніше вважалися посильними тільки людям.

Наприклад, у 2016 році комп’ютерна програма AlphaGo вперше виграла не просто в шахи, а в Го, що значно складніше за математичною структурою. Це було досягненням, бо вважалося, що людина завдяки “інтуїції” може перемагати комп’ютер, але у 2016-му комп’ютер почав грати краще. Зараз великі мовні моделі пишуть тексти краще за більшість людей, швидко генерують зображення і відео, вони дуже сильні в написанні коду, у задачах на логіку і математику. З кожним місяцем стають сильнішими й наближаються до можливостей людини.

Суперінтелект

— Який горизонт передбачення в цій царині?

Чим коротший час прогнозування, тим менша похибка. Система дуже нелінійна: сьогодні повільно розвивається, а завтра з’являється нова версія, яка змінює все. Компоненти, яких не вистачає для створення штучного загального інтелекту, можуть з’явитися протягом найближчих років.

Розробники з OpenAI (ті, що створили чат GPT) прогнозують, що протягом найближчих десяти років з’явиться не просто штучний загальний інтелект (тобто модель, яка може робити все те, що робить людина), а й суперінтелект — модель, яка перевищуватиме людські можливості. Це найбільш загадкова й непередбачувана річ.

Людина має фізіологічні обмеження пам’яті, кількості операцій за одиницю часу, періоду інтелектуальної активності та можливостей розвитку протягом життя, а комп’ютерна система з правильним алгоритмом може розвиватися значно швидше. Це відкриває небачені можливості для людства. Теоретично ця система може досягнути “рівня бога” за розумовими можливостями. І тут сценарії з наукової фантастики на зразок “Матриці” й “Термінатора” видаються не такою вже й фантастикою.

— Як звичайним людям ужитися з таким суперінтелектом?

Поки що невідомо. От, наприклад, у компанії OpenAI, що створювалася як некомерційна структура з місією допомогти людям співіснувати із суперінтелектом, буквально щойно (19 травня 2024 року) звільнили команду супервирівнювання (Superalignment), яка відповідала за безпеку використання ШІ й умовно за запобігання “повстанню машин”. Це сталося через кілька днів після виходу вдосконаленої версії чату GPT.
Це вже не перший кадровий скандал на ґрунті безпеки в OpenAI, що схожий на зав’язку науково-фантастичного фільму про апокаліпсис і дає підстави генерувати численні теорії змови про те, що начебто відбувається щось небезпечне. Хоча ми справді не знаємо, що саме відбувається.

Реальною небезпека стане тоді, коли з’явиться модель, інтелект якої перевищуватиме людський.

— І як ми дізнаємося, що роботи вже захопили світ?

Думаю, це складно зрозуміти. Якщо суперінтелект буде значно розумніший за людину, він може діяти дуже довго й непомітно, вносячи малі зміни у світобудову, яких ми не помічатимемо. Це можуть бути зміни в політичній структурі, законодавстві, виробництві якихось спеціальних речей, які в перспективі будуть потрібні суперінтелекту. Ми можемо не розуміти цього в процесі, але врешті ті зміни будуть дуже потужними й далекосяжними.

— Чи реально ці зміни якось утримати під контролем?

Мені здається, у нас є два варіанти. Перший — заборонити розвиток цих технологій узагалі, і вже очевидно, що це нереально. Усі спроби щось обмежити приречені, коли йдеться про великі гроші. Згадаймо як приклад про зміни клімату. Та й не було ще в історії випадків, коли людство добровільно зупиняло прогрес.

Він гальмувався лише внаслідок занепаду цивілізації. Поточна ситуація — класична “дилема в’язня”: потрібно всім домовитися й застосувати однакові обмеження, але як можна домовитися з Росією чи Північною Кореєю?

Якби люди були відповідальніші, вони, певне, сказали б: “Давайте будемо поводитися зі штучним інтелектом як із небезпечними вірусами, які досліджують у лабораторіях”. Бо насправді це небезпечніше, ніж вірус. Вірус не може хакнути інтернет і наші інформаційні системи, а штучний інтелект може.
Отже, обмежень не буде. Зараз маємо варіант із бурхливим розвитком, про контроль над яким нічого не відомо.

— Яка стратегія виживання для людини в цьому світі?

Важко спрогнозувати, що саме й наскільки швидко може змінюватися. Але якщо міркувати категоріями наукової фантастики, то можна порадити залишатися якомога менше залежним від усього, що пов’язано з інтернетом, комп’ютерами, хай там як неймовірно це звучало б.

Тобто в ідеалі нічого життєво важливого не повинно залежати від інтернету та/або комп’ютерів. Системи SmartHome, які можуть наглухо зачинити вхідні двері, контролювати газопостачання чи роботу обігрівача, за таких умов можуть стати небезпечними.

Загалом менше комп’ютерів, менше складної електроніки, більше фізичних вправ і свіжого повітря. Це з одного боку. А з другого — розвиток технологій постійно спонукає нас до протилежного.

Очевидно, що людина в майбутньому постійно й тісно взаємодіятиме з комп’ютером: через імпланти, біоінтерфейси тощо. А можливо, стане молодшим партнером штучного інтелекту чи навіть його фізичним втіленням. Усе це має цікавий, загадковий і… зловісний вигляд. Вигадати якусь однозначну виграшну стратегію в умовах швидких і важкопередбачуваних змін непросто.

Дезінформація і розмивання реальності

— Якщо говорити про інформаційну царину, здається, в інтернеті скоро неможливо буде відрізнити реальне від віртуального. Що з цим робити?

Люди загалом схильні вибирати не об’єктивну реальність, а те, що відповідає їхнім уподобанням, із цим нічого не вдієш. Багато хто просто обере життя в іншій, віртуальній реальності, у світі створених для них фактів і відео. Як у фільмі “Матриця”.

— Але ж голосуватимуть люди в реальному світі…

Це ще одна величезна проблема. Дуже важко буде зберегти чинну демократичну систему з появою нових технологій. Імовірно, це призведе до зміни панівного соціального устрою. Як індустріальна епоха призвела до розвитку виборної демократії, так і постіндустріальна може призвести до нового устрою.

Питання в тому, кращим він буде чи гіршим. Ми вже бачили приклади, коли люди голосують у реалі під впливом своєї “бульбашки” в соцмережах. Наприклад, у США 2016 року.

Якщо так триватиме й далі, то дедалі більше людей віддалятиметься від об’єктивної реальності й житиме в придуманому світі, ними буде легко маніпулювати.
Кількість штучно згенерованого контенту в мережі стрімко зростає. Це величезна індустрія, вже є багато сайтів, де весь контент — переливання з пустого в порожнє з купою ключових слів. Це вже знизило якість пошуку в Google, але це найменший негатив від таких процесів.

У ВІДПОВІДЬ НА РОЗВИТОК ШІ З’ЯВИТЬСЯ РИНОК ПЕРЕВІРКИ ФАКТІВ

— І що тоді робити?

Я не знаю. Наприклад, у майбутньому людина має складати якийсь іспит на адекватне розуміння реальності. Думаю, що це дуже скоро стане популярним.
Також, думаю, з часом з’явиться дуже великий ринок перевірки фактів, умовний блокчейн фактів, коли ти можеш повернутися на крок назад і перевірити, чи відповідає реальності кожне твердження. Це може бути система, у яку закладені початкові аксіоми і яка далі вибудовує перевірку контенту, спираючись на них.

— Цю систему теж можна ж хакнути? Умовно кажучи, закласти іншу аксіому.

Головне, що можна теоретично за допомогою математичних методів повернутися від більшості тверджень до основ і перевірити їх правдивість (хоча завжди будуть твердження, які не можна довести чи спростувати).

Думаю, у відповідь на вибух штучно генерованого контенту підтягнеться й розробка систем, які перевірятимуть його на справжність і які використовуватимуть ШІ для підтримки об’єктивної картини світу. Створений людиною контент буде як товари handmade — дорожчим, хоча, напевне, і не завжди якіснішим.

…Якщо не потоне у вирі штучно згенерованого.

І виробники, і споживачі контенту розшаровуватимуться — за потребами, за якістю контенту, за відповідністю об’єктивній реальності. Це почалося з появою соцмереж, і розкол поглиблюється далі. Хтось генерує і споживає купу нісенітниць, хтось дотримується наукового підходу в поглядах на світ і відповідно споживає інформацію.

Вже зараз з’явилися майданчики, які об’єднують навколо себе прихильників теорій змов, адептів пласкої землі чи рептилоїдів. І такого буде все більше, оскільки з’являється більше простих інструментів для створення контенту. Завдяки інтернету й соцмережам кожна людина тепер може знайти свою нішу, навіть маргінальну, і не перетинатися з тими, з ким вона не згодна.

Це розшарування поглиблюється на рівні всього людства, воно роз’їдає загальноприйняті норми, і цим активно користаються пропагандисти для проведення інформаційних кампаній.

РОЗМИВАННЯМ ОБ’ЄКТИВНОЇ РЕАЛЬНОСТІ АКТИВНО КОРИСТАЮТЬСЯ ДЕЗІНФОРМАТОРИ І ПРОПАГАНДИСТИ

Умовно кажучи, в індустріальну епоху в суспільстві був високий запит на знання з фізики і математики. Потрібно було багато технічно освічених людей, щоб швидко розвиватися й конкурувати з іншими індустріальними країнами, тому цінувалися технічна освіта, науковий підхід.

У “досоцмережному” суспільстві існували прийняті норми бачення світу і сприйняття реальності, був умовно якийсь поріг адекватності інформації, яка в принципі могла бути оприлюднена. Цінувався науковий підхід, який давав змогу людям досліджувати світ, розуміти, як він працює, зберігати розуміння, що таке об’єктивна реальність, і відділяти від неї історії про інопланетян, мольфарів та рептилоїдів.

Тепер жодних обмежень для оприлюднення немає, натомість є купа простих інструментів для створення контенту, який розмиває об’єктивну реальність.

Хаос і адаптація

— А може, люди врешті просто отупіють? Навіщо вчитися самому, якщо можна натиснути дві кнопки і машина все зробить, напише, порахує, скаже, що робити далі.

Цей процес уже стрімко відбувається, насамперед за допомогою мобільних телефонів. Люди будуть дедалі більше залежними від технологій. Як-от із навігацією: раніше треба було докладати зусиль, щоб зрозуміти, де ти є і куди тобі треба рухатися. Зараз є GPS, який завжди покаже напрямок. Але якщо GPS раптом зникне, той, хто не вміє орієнтуватися без нього, буде безпорадним.

— Як цьому зарадити? Як освіта має адаптуватися до нової реальності?

Я вважаю, що нова система освіти має бути радикально іншою. У її основі має бути якась “базова операційна система” для дитини, розроблена на основі критичного мислення та наукового підходу, що дає мінімальний набір уявлень про світ, формує навички самостійного навчання та вміння адаптуватися. Коли людина закінчує школу, вона має вміти застосовувати наукові методи, швидко адаптуватися до нестабільного світу й хаосу, що її оточуватиме. І бути готовою вчитися далі протягом усього життя. Власне, необхідність постійно вчитися — це вже наша сьогоднішня реальність.

Ще я вважаю, що дитині треба навчитися спершу все робити без гаджетів. І вводити їх у навчальний процес потрібно не раніше ніж у п’ятому-шостому класі, коли вона вже багато всього вміє робити руками і головою. Причому це має бути комп’ютер певної моделі, який повинен використовуватися як “мозковий протез”, як навчальний інструмент. Бо комп’ютери на ранніх етапах школи знижують загальну успішність навчання дітей. Особливо гаджети, які постійно з дитиною. Наприклад, у Франції гаджети заборонені протягом усього навчання. В елітних школах комп’ютери видаються мало не під розписку на обмежений час.

22 05 2024

https://texty.org.ua/articles/112522/12-pytan-pro-shi-i-majbutnye-rozmova-z-anatoliyem-bondarenkom-pro-zahrozy-shtuchnoho-intelektu/