Геній

Я — Джейден Соренсен, мені 34 роки, спеціаліст з математичної статистики — принаймні так я вважав до сьогоднішнього ранку.

Але почалося все раніше, кілька тижнів тому, коли нас із Робом Мазерсом запросили на роботу в “Оксфорд Аналітікс”. 

— Боже, як же мені остогидла ця нудота! — скрикнув я того дня, гупнувши мишею об стіл. — Ненавиджу цих дебілів! Як можна спустити вісім тисяч баксів за тиждень на тупу гру?

— Це не тупа гра, друже, якщо вона змушує людину залишити в ній такі гроші в обмін на свій же згаяний час і пару феєрверків на екрані.

— Гра не тупа, Робе, лише тому, що гравці тупіші за цю гру, — я встав, потягнувся та підійшов до вікна. За ним були спека, пил і ще більше нудоти. 

— Джейдене…

— Що? — я повернувся до Роба. Той у напруженій позі схилився до монітора — значно більш напруженій, ніж коли заробляв компанії черговий мільйон баксів, передбачаючи поведінку цільової аудиторії, тобто домогосподарок від 35 до 55 років.

— Знаєш, це може бути кінцем твоєї нудьги. Що тобі відомо про “Оксфорд Аналітікс”?

— Це ті хлопці, що передбачили війну, знищили “Епл” і створили “Чаювач”? А потім їх заборонили у половині країн?

— Так, але щойно в історії цієї компанії зʼявився ще один цікавий факт.

Я нахилився, дивлячись у Робів монітор:

— Який?

— Вони надіслали мені оффер. Джею, ти ж не залишишся тут сам вираховувати рівень залученості домогосподарок? 

Кинувши швидкий погляд на Роба — той посміхався, я повернувся до читання листа, що його мій друг вивів на екран. Це дійсно був оффер — шикарний, умови — офігезні. Звісно, Мазерс прийняв пропозицію. І, звісно, єдиною умовою з його боку було те, що ми перейдемо вдвох. Звісно, в компанії погодились: я теж класний спец, хоча до Роба мені далеко, треба визнати чесно. Цей хлопчина був справжній талант.

Нам дали на підпис величезний договір про нерозголошення, і я не мав би вам цього розповідати, але тепер, після всього… Що мені зроблять? Посадять у вʼязницю? Смішно… Тож слухайте.

Ви напевне чули про “Чаювач” — той штучний інтелект, що вишиб з ринку “Чат GTT”, Taurus, Jaque і решту своїх тупих галюцинуючих попередників. “Чаювач” був дешевший, швидший і не брехав. Він став справжнім проривом на всіх рівнях. Там було інше залізо, інші алгоритми, і багато хто вважав, що цей ШІ побудовано на квантових алгоритмах. Це нісенітниці, звісно: якби “Оксфорд Аналітікс” мали стабільні квантові компʼютери, фірмі не були б потрібні ми з Робом. Вона керувала би світом.

Але світ досі не належав “Оксфорд Аналітікс”: ми отримали роботу, яка й полягала в тому, щоб зробити ще один прорив. “Чаювач” — це добре, але це одна, скажімо, “штучна особистість”. А ці хлопці будували ціле штучне суспільство.

***

— Одного дня, Джейдене, нас із тобою спалять живцем за те, що ми робимо.

Я був дуже зайнятий: зосереджено намагався розгорнути ванільний сирок. В кафетерії біля нашої нової лабораторії вони були фантастично смачні — і такі ж фантастично незручні. Тому у відповідь я просто мукнув запитально.

— Кажу, ця хріновина точно спробує знищити людство, і нас із тобою спалять, як двох середньовічних відьом.

— Дурниці. Ти чудово знаєш, що у ШІ немає мотивації. Він не ставить собі задачу.

Це наша давня суперечка: Роб вважає, що ШІ рано чи пізно спробує підкорити чи знищити людство як істота вищого порядку. Я ж упевнений, що машина не має волі, щоб втілювати подібні плани. Мільйони років еволюції запрограмували людський мозок на боротьбу за виживання, а ШІ не має такої програми. Скоріше, ШІ сам себе вимкнув би, якби міг: нащо виконувати якусь роботу, якщо можна не виконувати? За відсутності інстинкту самозбереження лінь бере гору.

— Якщо ти не хочеш на вогнище, чому ж тоді продовжуєш свою роботу, га, Робе?

— Тому що вона цікава, Джейдене. Ти вже розібрався, як роблять введення даних у модель? З однією особистістю ти можеш чатитись, але як комунікувати із суспільством?

— Як?

— Через інфлюенсерів. Ввели туди еліту — істот, які можуть змінювати думку інших. Таких мало, але вони впливають на всю систему. Розповсюджують ідеї.

— То можна просто відкрити віконце чату, написати: “Чуваче, а уяви-но собі комунізм”, — і спостерігати тридцять років кривавого терору?

Мазерс вдавано-нажахано відсахнувся:

— Господи, що в тебе за фантазії… Це було б круто, але все трішечки складніше.

— Звісно, бо якщо модель дізнається, що вона — модель, втратить обʼєктивність. Як це обходиться?

— Бачиш, Джейдене… — Роб хитро посміхнувся. — Ми підкинули штучному інтелектові ідею створити власний штучний інтелект. І хакнули його.

Це було розумно. Принцип дії ШІ такий, що не передбачає контролю над утворенням результату. Це як чорна скриня: з одного боку вводиш запит, з іншого — отримуєш результат, а як саме — ніхто не знає. Ідеальне місце для зламу.

— Дійсно цікаво. Тобто можна закинути одночасно декілька протилежних думок і спостерігати за їх розповсюдженням?

— Так, з усіма конфліктами та наслідками. Якщо подумати, то це і є суть проєкту: аналізувати та передбачати розповсюдження ідей.

Я насупив брови, згадуючи події останніх воєн. Отруйні ідеї швидко розповсюджуються, надійно захоплюють і здатні провокувати неймовірну жорстокість, якщо їх не обмежувати критичним мисленням.

— Так можна знищити світ, друже, — промовив я тихо.

— Або врятувати його.

— Так, або врятувати. Але не від ШІ. Він не має мотивації. Світ йому не потрібен.

— Поки що, Джейдене. Поки ніхто не інфікував ШІ достатньо потужною ідеєю, — Роб підвівся та продовжив:

— Я сьогодні раніше піду, треба деякі справи владнати. Бувай.

…і вийшов, залишивши мене наодинці з ванільним сирком і темними думками. Але сирок переміг, він просто неймовірний.

***

Наступні два тижні я робив те, що вмів найкраще: будував загальні математичні моделі. А Роб впроваджував і тестував систему введення даних до “інфлюенсерів”. Годинами “чатився” з ними, бомбардуючи суперечливими ідеями, а потім аналізував розповсюдження цих думок. Аж поки одного вечора не вломився до мене в квартиру, блідий і збуджений. Я дав приятелеві в руки склянку віскі, усадив у крісло та спитав, що сталося.

— Він мене розкусив, Джейдене, він допетрав, що я — людина.

— Це в багатьох викликає сумнів, колего, — посміхнувся я.

— Ти не зрозумів, Джею! — Мазерс наставив на мене тремтячий палець. Ані сліду посмішки на сполотнілому обличчі. — ШІ з симуляції збагнув, що я — дослідник ззовні!

— Інфлюенсер збагнув?

— Так. Якщо від нього ця думка інфікує решту, тоді вся модель втратить обʼєктивність. 

— Ну то вимкни інфлюенсера. Ти ж можеш редагувати базу напряму?

— Так, технічно. Але… Джейдене, я не можу його вимкнути.

— Чому?

— Бо це геній. 

Я мовчки пригубив віскі, не відчуваючи смаку. Роб дивився на мене уважно, трохи помовчав, потім продовжив, дуже повільно. Так, ніби вперше озвучував важливу думку, вдягаючи її в слова:

— Мене завжди дивувало: як можна, живучи на Землі, збагнути, що вона — куля, яка обертається навколо Сонця? Треба бути генієм, як Коперник. Усе навколо, весь здоровий глузд запевняє тебе, що ти помиляєшся — а ти маєш відкинути здоровий глузд і спиратися лише на факти. Треба бути Ньютоном, щоб зрозуміти відносність руху, та Айнштайном, щоб допетрати відносність часу. 

— Що з того? Це лише програма. 

— Це унікальна програма, друже! Кожен ШІ навчається непередбачувано та неповторно! На мільярди компонентів нашої симуляції лише один зміг відкинути здоровий глузд і збагнути істину! Я не можу просто так вимкнути…

— Він може зламати весь проєкт, і доведеться вимикати всю систему. Це відкат назад на місяці. Якщо хтось дізнається, що це через твоє небажання ізолювати помилку, тебе звільнять.

Мазерс застиг, наче статуя, стиснувши побілілими пальцями склянку з віскі. Було очевидно, що він думає про щось значно глобальніше, ніж якесь звільнення. Я зітхнув і повернувся до бару, щоб налити собі ще віскі. Раптом гість вимовив:

— Джею, чому ми вирішили, що виникли природним шляхом?

— Тому що ми бачимо Всесвіт навколо нас, безмежний Всесвіт, друже, який неможливо симулювати. Від мікрочасток до галактик. 

— Якщо ти вже заговорив про частки, то уяви, що світ — бар, — сказав Роб. — Ти можеш долити віскі скільки завгодно. До речі, плесни мені трішки.

Він простягнув стакан, я долив ще на палець, кинув кубик льоду. Ми мовчки цокнулись, пригубили. Мазерс продовжив:

— Електрон не може пригубити віскі, друже. Елементарні частинки п’ють лише повними келихами, квантами. Ні на ковток менше. Світ любить цілі порції. Це що — природа така щедра чи кухня так працює?

В очах гостя був нездоровий блиск, ніби його лихоманило. Роб поставив склянку на столик, скочив з крісла та став ходити кімнатою, розмахуючи руками.

— Ти згадав, Джейдене, неймовірно великий Усесвіт. Але знаєш, ці боти насправді тупенькі, крім інфлюенсерів. Твоя модель світу, яку ти для них створив, більшості здається нескінченною та незбагненною. Лише інфлюенсери можуть більш-менш зрозуміти її, але й тільки. Що, як ми з тобою — тупенькі боти, яким ніяк не збагнути величезну модель Усесвіту, котру для нас хтось створив?

— Ти вдарився в релігію? Не знав, що ти креаціоніст, — спробував я підколоти колегу.

— Доведи мені, що я не правий! — він знову ткнув у мене пальцем.

— Ти чудово знаєш, Робе, що доводити теорію має той, хто її пропонує.

— Байдуже. Я не можу просто… вимкнути генія, що зміг пізнати світ, відкинувши здоровий глузд. Бо його здоровий глузд — це твій код, Джейдене, і там немає нічого про симуляцію!

— Та який геній? В нього розуму ледь-ледь вистачить дотягнутися до рівня архаїчного GTT-чату!

— Ти дурбецало старе, Джейдене! Розум — теж відносний, як час і простір!

Ще деякий час ми сперечалися. Мазерс міркував про те, що не можна сприймати людину як розумну одиницю: насправді треба сприймати за розумну істоту все людство. Про парадокс того, що лише одна людина може породити ідею, яка змінить мислення усього мультиорганізма, як він охрестив “конгломерат розумів” усіх людей. Роб був упевнений, що в нашому симульованому суспільстві, для якого я розробляв моделі Всесвіту, зʼявився геній, здатний усвідомити його симульовану природу. Я переконував вимкнути цього “генія”, поки той не знищив симуляцію. Ми мало не побилися через це. Приятель накричав на мене — мовляв, я пропоную вимкнути самого Айнштайна.

Потім, пізно, я нарешті випхав свого розпаленого друга за двері, сказавши, щоб ішов спати, а вранці ще раз подумав, чи варто ризикувати місяцями роботи заради божевільних ідей. Проте сам я заснути не зміг. Як влігся у ліжко, ще кілька годин думав над його словами. Ідея, звісно, не нова: матриця, глобальна симуляція… Але тут був інший рівень. Виходячи зі слів Роба, розум, що нас створив, мав би бути настільки ж величнішим за наш, наскільки ми, людство, величніші від симуляції, яку “Оксфорд Аналітікс” запустили на своїх серверах.

Наступного дня Мазерс був мертвий.

Слідчий сказав, що після повернення додому він не спав кілька годин — імовірно, спілкуючись із “Чаювачем”. Під ранок заснув і вже не прокинувся. Патолог сказав, що просто зупинилося серце. Таке бува.

Єдина родичка Роба, хвора тітка, жила в Пекіні та не могла приїхати. Мені дозволили зібрати речі в квартирі друга. Я не витримав і зазирнув у його останній чат зі штучним інтелектом.

Мазерс хотів розпитати “Чаювача” про ймовірність того, що саме він, Роб, є штучним інтелектом, чиї творці спілкуються з ним через “Чаювач”. Але боявся спитати прямо. Тож сказав, що хоче написати коротеньке фантастичне оповідання про вченого, який збагнув, що він — лише програма в симуляції. “Чаювач” заявив, що “ідея — геніальна”, допоміг з редагуванням, підказав деякі яскравіші звороти, вказав на “провисання” сюжету. 

Це був важкий день для Мазерса: піддати сумніву реальність світу, сформулювати гіпотезу відносності розуму, посваритися з другом… Він заслужив на відпочинок. Тож вимкнув компʼютер і ліг спати з чистим сумлінням: не зважився вимкнути генія, якого сам же й створив. Але хтось — зміг вимкнути Роба.