Парадокс Моравека і майбутнє співпраці людини з ШІ
Є момент в історії штучного інтелекту, який досі тихо визначає все, що ми будуємо сьогодні — і він стався зовсім не так, як більшість людей його пам'ятає.
У 1997 році, коли Гаррі Каспаров сів навпроти IBM Deep Blue і програв, світ подав це як символічне приниження: машина перемогла людський розум. Газети виходили з драматичними заголовками. Філософи панікували. Кремнієва долина святкувала. Але те, що насправді відбулося в наступні роки, було набагато цікавішим за просту історію поразки — і майже ніхто не звертав на це уваги.
Каспаров помітив щось цікаве. Не те, що машини розумніші за людей — а те, що вони розумні принципово інакше. Два типи інтелекту знаходилися не в одному спектрі: вони діяли на зовсім різних осях. І, достатньо довго поміркувавши над цим спостереженням, він дійшов до чогось, що тихо стало однією з найважливіших ідей в історії взаємодії людини і комп’ютера. Ми називаємо це парадоксом Моравека.
Парадокс звучить разюче просто. Те, що здається нам невимушеним — зайти в кімнату і відчути настрій, впізнати знайоме обличчя в натовпі, зрозуміти, що людина має на увазі, а не просто що вона каже — є обчислювальним кошмаром для машин. Натомість завдання, від яких людський мозок пітніє — розрахувати мільйони можливостей за секунду, оптимізувати логістику за тисячами змінних, точно відтворити інформацію без спотворень є тривіальними для програмного забезпечення.
Легке для нас — важке для них. Важке для нас — легке для них.
І ця асиметрія, якщо справді її прожити, перестає бути курйозом і починає виглядати як принцип проєктування.
Десятиліттями ми будували все своє уявлення про інтелект навколо логіки, обчислень і раціональної стратегії, і коли машини перевершили нас у цих сферах, здалося, що вони перевершили нас повністю. Те, що ми не помітили: найскладніші форми людського пізнання — саме ті, про які ми ніколи не замислювалися. Сприйняття, інтуїція, контекстуальна свідомість, здатність зчитувати емоційні нюанси, спроможність знаходити сенс у невизначеності. Це не «м’які навички» в зневажливому розумінні. З обчислювальної точки зору — це надзвичайно складні задачі, до яких ШІ лише починає підступатися навіть зараз.
Що повертає нас до Каспарова — бо він не покинув шахи після поразки від Deep Blue. Він їх переосмислив. Він створив те, що стало відомим як просунуті шахи — формат, де люди грають разом із машинами як партнери, а не суперники — і те, що сталося далі, здивувало майже всіх. Найсильнішими гравцями в цьому гібридному форматі виявилися не гросмейстери з найглибшими знаннями шахів, і не машини з найбільшою обчислювальною потужністю. Це були люди, які розвинули інстинкт оркестрування: знання того, коли довіритися підказці алгоритму, коли відкинути її на користь людського судження, і як синтезувати результати кількох систем у щось цілісне й стратегічне. Кентавр — напівлюдина, напівмашина — стабільно перемагав обох.
Старий кентавр, скульптура кентавра з сіро-чорного мармуру адріанівської доби, створена за зразками елліністичних моделей, знайдена на віллі Адріана в Тіволі, Палаццо Нуово, Капітолійські музеї.
Те, що Каспаров інтуїтивно відкрив у вільних шахах, греки описали ще три тисячі років тому — і назвали це кентавром. У давньогрецькій міфології кентавр був не просто химерою: він уособлював напругу між двома природами, що існують в одному тілі одночасно. Людська половина — розум, мова, стратегія, здатність до рефлексії. Кінська — сила, швидкість, інстинкт, невтомна витривалість. Примітно, що найшанованіший із кентаврів, Хірон, не був ні диким звіром, ні просто людиною в іншому тілі — він був учителем героїв, наставником Ахілла й Асклепія, тим, хто поєднував тваринну міць із мудрістю і знанням. Греки, по суті, вже тоді сформулювали ідею, яку ми сьогодні намагаємося закласти в архітектуру штучного інтелекту: найбільша сила виникає не тоді, коли одна природа пригнічує іншу, а тоді, коли вони навчаються діяти як єдине ціле.
Це, хочемо ми того чи ні, і є структурою світу, в який ми входимо.
Ми й досі — як галузь — здебільшого говоримо про ШІ як про інструмент. Щось, що ти промптуєш. Щось, що відповідає. Щось, чим ти користуєшся, як калькулятором чи пошуковиком. Але це формулювання вже застаріває, і чіплятися за нього означає будувати не те. ШІ — це не інструмент у традиційному розумінні; він стає шаром інтелекту, що знаходиться між намірами людини та їх виконанням. І наслідки цього зсуву величезні, бо щойно ти приймаєш це формулювання, центральне питання змінюється повністю. Вже не «що може ШІ?», а «що має залишитися людським — і чому?»
Якщо ти приймаєш парадокс Моравека як принцип проєктування, а не просто цікаве спостереження, твої рішення починають змінюватися негайно. Ти перестаєш намагатися автоматизувати все — і починаєш проєктувати для взаємодоповнення. Навмисно передаєш ШІ те, що він справді робить краще: розпізнавання патернів у масштабі, оптимізацію, імовірнісне прогнозування, обробку повторень без втоми. А людині залишаєш те, що справді потребує людини: формулювання задачі з нуля, інтерпретацію того, що означає відповідь, прийняття рішень, пов’язаних з цінностями, та відповідальність за наслідки. Це не обмеження, яке треба обійти — це важіль, на якому треба будувати.
Більшість інтерфейсів ШІ сьогодні досі трансакційні: вхід, вихід, готово. Але справжнє людське мислення є ітеративним, неоднозначним, нелінійним і глибоко контекстуальним. І системи, які визначатимуть наступне покоління ШІ, не будуть інтерфейсами в традиційному розумінні. Вони будуть чимось більш схожим на стосунки: системи, здатні розуміти еволюцію намірів, адаптуватися до способу мислення конкретної людини, разом створювати, а не просто відповідати — і іноді відстоювати свою позицію, а не просто виконувати. Проєктування таких систем — це не UX-виклик у звичайному розумінні. Це виклик проєктування динамічної взаємодії між двома справді різними формами інтелекту. І ми ледве почали освоювати для цього мову.
Мислення кентавра, яке Каспаров випадково відкрив у вільних шахах, — це, у цьому світлі, визначальна професійна навичка наступного десятиліття. Не тому, що всі мають навчитися програмувати чи освоїти написання промптів. А тому, що найбільшу цінність створюватимуть ті, хто розвине те, що можна назвати когнітивною оркестрацією: інстинкт до того, які задачі передавати ШІ, які тримати при собі, коли довіряти результату системи, а коли ставити його під сумнів — і як вплітати матеріал, згенерований машиною, у стратегії, які є справді розумними, а не просто технічно бездоганними.
Довгий час конкурентна перевага полягала у знаннях, досвіді та доступі до інформації. Всі три стрімко перетворюються на товар, доступний будь-кому з підключенням до інтернету. Те, що неможливо перетворити на товар — те, що ШІ робить ціннішим, а не менш цінним — це якість твого мислення, гострота запитань, які ти ставиш, твій смак і судження в неоднозначних ситуаціях, і глибина розуміння інших людей. Чим більш здатним стає ШІ до виконання, тим незамінніше мати поряд людину, яка знає, що насправді варто робити — і чому.
Парадокс Моравека — це зрештою не обмеження штучного інтелекту. Це дзеркало, яке відображає щось, що ми систематично недооцінювали в собі. І якщо ми будуємо це майбутнє вдумливо — якщо ми перестанемо питати, як змусити машини мислити більше як люди, і почнемо питати, як проєктувати системи, де обидві форми інтелекту роблять одна одну кращою — то те, що наближається, — це не заміна. Це підсилення. У місцях, які справді мають значення.
Я працюю на перетині ШІ та бізнес-стратегії в The Gradient. Якщо ви думаєте про те, як насправді виглядає ШІ-трансформація для вашої організації — не хайп, а реальні операційні та лідерські зміни — давайте поговоримо.
Я здається вже радив документалку про alpha go