Проблема «Останнього винаходу»

Зі створенням ASI всі спроби людства навчити його мислити так, як мислить людина, будуть безуспішними: машина буде мислити як машина, а людина — як людина. Подібно до того, як нам навряд чи вдасться навчити мавпу усідомлено використовувати WiFi чи телефон (хоча ми вміємо це робити і є біологічно подібними), ми не можемо гарантувати, що штучний інтелект дасть нам відповіді на всі наші питання чи діятиме за шаблонами, що подібні до людського мислення. Основна проблема полягатиме не просто у тому, що штучний мозок та свідомість будуть потужнішими за усі людські разом узяті. Проблема (і загроза одночасно) полягає у тому, що доволі потужний штучний інтелект буде спиратися на сповнену помилок та недосконалостей програмну оболонку, створену людьми. Крім того, у цього експерименту може виявитися стільки непередбачених змінних, що сьогодні майже неможливо передбачити, яким будуть наслідки Революції Штучного Інтелекту.

Втім, попередня історія людства засівдчила, що із інтелектом приходить значна влада. Це означає, що із появою штучного суперінтелекту може виникнути найпотужніша сила і влада на планеті за всю історію існування Землі. І всі живі істоти, включаючи людей, можуть опинитися у владі цієї сили — а відбудеться це вже протягом кількох наступних десятиліть.

Якщо суперінтелект ASI буде створено ще у цьому столітті, і за умови, що ефект буде таким значним та незворотним, як того очікують науковці, це означатиме, що на плечі людства ляже відповідальність за технологію, значно важливішу та небезпечнішу навіть у порівнянні із ядерною зброєю. З одного боку, надпотужний штучний інтелект може стати праобразом бога на Землі і принести планеті безсмертя. З іншого боку — така технологія може прискорити кінець людської раси і стати тим відкриттям, яке її знищить, свого роду «зброєю Судного дня». Тому будь-які винаходи та розробки в цьому напрямку мають бути вкрай виважені.

Творення супер-розуму, досконалішого за усе людство разом узяте

Цілком реально, що на певному етапі ми дійдемо до виникнення інтелекту рівня AGI — тобто такого програмного забезпечення, яке буде дорівнювати чи перевершувати людський розум. Чи означатиме це, що комп’ютери будуть повністю вміти і знати все те, що знають і вміють дорослі люди? Швидше за все, ні — через свою електронну «начинку» вони будуть набагато ефективнішими за нас за низкою параметрів:

• Швидкість — частота роботи нейронів сягає 200 Hz, а сучасних мікропроцесорів — від 2 GHz (що в 10 мл разів швидше)
• Пам’ять —  забувати чи плутати факти і дані у світі штучного інтелекту набагато складніше, аніж в людському. Комп’ютер може запам’ятовувати більше фактів за 1 секунду, аніж здатен людський мозок за 10 років. Також ємність комп’ютерної пам’яті можна збільшувати ледь не безкінечно, у той час як людський мозок має обмежені можливості у цьому.
• Продуктивність — точність та потужнісь передачі інформації у комп’ютерів перевищує ці ж показники у нейронів людини; до того ж, пікові можливості людського мозку згасають із часом, а комп’ютери можуть не втомлюватися і працювати однаково ефективно цілодобово увесь тиждень.
• Здатність збирати дані та опрацьовувати їх — робота людей у групах завжди має безліч перешкод, бо ма спілкування та порозуміння потрібен час, а ще в командах людей є складна ієрархія прийняття та передачі рішень. Із зібльшенням групи людей ця система стає все менш і менш результативною. А комп’ютер може синхронізувати одночасно сотні і тисячі процесів, при цьому не знижуючи показників роботи через втому чи складність ланок передачі даних.

Про рівні штучного інтелекту

Штучний інтелект (або AI) — термін, що застосовується для опису інтелектуальних можливостей комп’ютерів для прийняття рішень. Більшість експертів у цій сфері сходяться на тому, що є три категорії (або типи) штучного інтелекту:

• Штучний інтелект вузького спектру, або ANI( Artificial Narrow Intelligence) — перший рівень штучної свідомості, яка спеціалізується на прйнятті рішень лише в одній сфері: наприклад, може обіграти світового чемпіона із шахів, але може зробити тільки це і нічого більше.
• Загальний штучний інтелект, або AGI (Artificial General Intelligence) — штучний інтелект другого рівня, який досягає та перевершує рівень звичайної людської свідомості: може розв’язувати математичні та логічні завдання, абстрактно мислити, порівнювати та засвоювати складні ідеї, швидко навчатися, в т.ч. — із власного досвіду.
• Штучний суперінтелект, або ASI (Artificial Super Intelligence) — третій рівень розвитку технологій штучного інтелекту, де він є розумнішим, аніж усе людство разом узяте, спочатку трохи, а згодом як результат самонавчання — у трильйони разів.

Якщо вести мову по сучасний стан речей, то ми в багатьох сферах життя опанували та запровадили системи, котрі викнористовують ANI: таких систем чимало у наших автівках; така систенма ленжить в основі роботи пошуковика Google, у основі стрічки новин Facebook. Сучасни антиспам-фільтри у нашій пошті та системи автопілотування літаків, навіть наші смартфони частково та низка ігор — це результат роботи ANI. Складні системи вузькопрофільного штучного інтелекту використовують у виобництві, фінансах, на біржах, у військовій сфері.

Збій чи помилка у ANI-системах не є критичним явищем загальнопланетарного масштабу: так, подібний збій може спричинити падіння літака, відмову обладнання ядерного реактора чи навіть обвал на фінансовому ринку (як збій у трейдерському програмному забезпеченнні, що стався 2010 року і отримав назву Flash Crash). Але в цілому ANI не може сприинити катастрофу, яка би загрожувала життю людства, тому завданням науковців є створення більш складних та відносно безпечних систем штучного інтелекту, які керують устаткуванням чи програмними комплексами.