Єжи Онух: Штучний інтелект: два кроки вперед, але потрібен один назад

Версия для печати

Паралельно з розвитком цієї революційної технології можуть виникнути нові, ще невідомі виклики. Ключем, як видається, може бути баланс між обіцянкою, що дає ШІ, та оцінкою ризиків, які він несе, і нашою готовністю до швидкої адаптації.

Про це пише відомий польський культурний діяч Єжи Онух у виданні Тиждень.

Ходять чутки, що дедалі частіше роботодавці вимагають у потенційних робітників знання системи ChatGPT. Іще нещодавно мало хто з нас мав поняття, що воно таке. Останнім часом ця тема наробила галасу й опинилася серед breaking news у провідних світових медіа й інформаційних мережах. Багато моїх знайомих радше для розваги ставить системі ChatGPT запитання, на які отримують кумедні, хоча часто абсурдні відповіді. Але інтерес до можливостей цієї системи зростає з дня на день.

Те, свідками чого ми стали, це розвиток AGI ― загального штучного інтелекту ― який можна так «натренувати», щоб він багато чого робив, але поки що лише в рамках своїх запрограмованих здібностей.

Нині штучний інтелект стоїть за алгоритмами, які диктують стрімінговим платформам, які фільми ми маєм подивитися наступними на основі аналізу наших попередніх виборів. Він може використовуватись для відбору заявок на посаду в рекрутингу працівників, його можуть застосовувати страхові компанії для вираховування розміру внесків чи діагностування хвороб (хоча лікарі досі мають вирішальний голос, але невідомо, як надовго).

Нещодавно дискусія щодо AI набула ноток ніяковості, коли світові медіа облетіла інформація, що людина, яку всі вважають хресним батьком штучного інтелекту (ШІ), полишила роботу, водночас застерігаючи від вихідної загрози, яку несе розвиток цієї технології.

Д-р Джефрі Гінтон оголосив про свою відмову працювати в Google. У заяві, опублікованій у The New York Times, він написав, що нині шкодує про свою участь у розвитку штучного інтелекту.

Джефрі Гінтон був піонером штучного інтелекту. У 2012 році д-р Гінтон і двоє його докторантів у Торонтському університеті (U of T) створили технологію, яка стала інтелектуальною базою штучного інтелекту, систем, які найбільші фірми в галузі технологій (Google, Microsoft, Meta і багато інших) вважають ключем свого світлого майбутнього.

Небагато серйозних дослідників вірило в наукову інтуїцію д-ра Гінтона. Новаторські дослідження штучних нейронних мереж (тобто математичної системи, яка здобуває нові вміння завдяки аналізу доступних даних) стали справою його життя, а т.зв. глибинне навчання проклало шлях теперішнім системам штучного інтелекту, тому ж ChatGPT.

У штучному інтелекті нейронні мережі схожі на людський мозок з точки зору способу навчання й обробки інформації, вони дають змогу штучному інтелекту навчатися на основі досвіду, як це робить людина.

В інтерв’ю для BBC д-р Гінтон висловив фундаментальну думку для розуміння викликів, які ми самі перед собою поставили, розвиваючи штучний інтелект:

«Я дійшов висновку, що той тип інтелекту, який ми розробляємо, дуже відрізняється від нашого. Ми ― біологічні системи, на відміну від тих цифрових. Велика відмінність полягає в тому, що в цифровій системі ми маємо справу з незліченною кількістю однакових наборів інструментів, тією самою моделлю світу. Кожна з цих копій, щойно вивчивши щось, миттєво ділиться своїми знаннями. Тож це так само, якби з-поміж 10 тисяч людей хтось один дізнався щось нове, решта автоматично також про це дізналася б. І це тому ці чат-боти можуть знати значно більше, ніж будь-яка людина».

Після того, як стартап із Сан-Франциско OpenAI у березні випустив нову версію ChatGPT, понад тисяча лідерів технологічних компаній і дослідників, підписала відкритий лист із закликом оголосити 6-місячний мораторій на розвиток нових систем, оскільки «технології ШІ становлять серйозну загрозу для суспільства та людства».

Однак д-р Гінтон не підписав цього звернення, хоча бачить потенційну небезпеку передовсім у швидкості неконтрольованого розвитку можливостей технології ШІ:

«Ідея про те, що ця штука насправді може стати розумнішою за людей — не багато хто в це вірив», — сказав, «Але більшість людей думали, що до цього ще далеко. І я думав, що далеко. Гадав, що це буде через 30-50 років або навіть пізніше. Очевидно, вже так не думаю».

Не вперше в історії технологічного розвитку творці фундаментальних ідей виявляються шокованими темпом їхнього розвитку й експансії. Якщо повернутися до аналогії з моєї останньої колонки «Те, про що ми не знаємо», то:

«Пророки неминучого винищення безперервно переймаються, що ситуація невдовзі ще більше погіршиться, візіонери поступу вважають, що ситуація може тільки покращуватись».

Прихильники штучного інтелекту аргументують, що його потенціал у вирішенні великих проблем полягає хоча би в можливості розробки нових ефективних ліків, нових матеріалів для допомоги в боротьбі з кліматичними змінами чи розплутуванні складностей нових енергетичних систем. Для інших той факт, що здібності ШІ вже перевищують можливості розуміння їхніх творців, пов’язане з ризиком оприявлення катастрофічного сценарію science-fiction машини, яка обводить круг пальця свого винахідника, часто з фатальними наслідками.

Паралельно з розвитком цієї революційної технології можуть виникнути нові, ще невідомі виклики. Ключем, як видається, може бути баланс між обіцянкою, що дає ШІ, та оцінкою ризиків, які він несе, і нашою готовністю до швидкої адаптації.

Поки що ми пропонуємо зробити крок назад, щоб невдовзі, ймовірно, зробити два кроки вперед.

«Аргумент»

На цю тему:

• П’ять принципів управління штучним інтелектом узгодили міністри цифровізації G7
• ШІ дозволить змінити чверть усіх робочих місць протягом п'яти років - Світовий банк
• Ілон Маск має намір розробити штучний інтелект для пошуку істини