ОСТАННІЙ ПОДКАСТ
Підписуйся на найнауковішу розсилку!
І отримуй щотижневі новини науки і технологій

    Ми під'їдаємо крихти cookies за вами. Навіщо це нам?

    Читати

    Пардон за відволікалочку. Допоможи Куншт бути незалежним!

    Пардон за відволікалочку. Допоможи Куншт бути незалежним!

    Повідомлення успішно надіслано

    Для пошуку
    введіть назву запису
    Технології — 23.06.20
    ТЕКСТ: Дар'я Кузява
    Ілюстрації: Каталіна Маєвська
    Ми любимо тексти без помилок. Якщо ви все ж таки щось знайшли, виділіть фрагмент і натисніть
    Ctrl+Enter.
    Назад у майбутнє: інтерв’ю з Максом Теґмарком

    Макс Теґмарк вірить, що зі штучним інтелектом можна подружитися. Йому подобається, як бачить світ Ілон Маск – один із головних донорів Інституту майбутнього життя (The Future of Life Institute), співзасновником якого став Теґмарк. В Україні Макса знають насамперед як автора книжки «Життя 3.0. Доба штучного інтелекту». Куншт поговорив із ним про те, яким може стати наше життя у найближчі десятиріччя і чи варто боятися прогресу.

    Яке з ваших досягнень ви вважаєте найвизначнішим? Який момент осяяння вам запам’ятався найбільше?

     

    Насправді я ніколи не замислювався над цим. Думаю, моє найбільше осяяння пов’язане з моєю книжкою. На жаль, воно негативне. Це було поступове осяяння, низка думок. Вони однакові, відколи я почав про це думати, з 14-річного віку. Протягом свого життя я почав усвідомлювати, наскільки людство близьке до знищення нашого майбутнього. Ми маємо чудові можливості. Живемо на маленькій, багатій на ресурси сфері в космосі. Ми могли б жити мільйони, сотні мільйонів років на нашій планеті й насолоджуватися майбутнім тут. Так само життя в нашому велетенському Всесвіті могло б процвітати набагато довше. Насправді ми не так багато й говоримо про ці неймовірні можливості. Ми й далі робимо дурниці, які одного разу можуть просто стерти нас з лиця землі. 

     

    Коли я був малою дитиною, то не усвідомлював цього. Мені було чотири роки, всі ці дорослі здавалися мені такими хорошими. Я наче вірив, що мама і тато і всі ці дорослі люди тримають усе під контролем. Мені здавалося, що вони все знають, що їм усе під силу. Завжди була їжа на столі. Зрештою, я зрозумів, що мої батьки насправді не можуть впливати на все. Для таких випадків існують поліція, пожежна служба. Пізніше я зрозумів, що таких інститутів набагато більше. Є уряд, який може впоратися зі значно масштабнішими проблемами. Тож я припустив, що ризики існують завжди у будь-якій сфері. Завжди є щось таке, для чого ні в кого не знайдеться плану.

     

    Мені виповнилося 14 років, і мене осяяло. Коли хтось починав розповідати мені про міжконтинентальні балістичні ракети, у мене ніяк не вкладалося в голові, що це таке. Мене жахало усвідомлення того, що навіть якщо жодна людина на нашій планеті не хоче ядерної війни, вона може трапитися. Вони вже майже ставалися через наші помилки. Це була перша річ, яка переконала мене, що ми не діємо в наших спільних інтересах як вид. У нас немає, так би мовити, капітана корабля.

     

    Штучний інтелект – ще одне підтвердження цьому. Ми сліпо розробляємо дуже потужну технологію, відмовляємося продумувати до кінця її наслідки. Для того, щоб технології не вийшли з-під контролю, потрібно підходити до цього питання з мудрістю. Ось чому я написав книжку. Чи я оптиміст у душі? Я вірю, що технології зробили свій внесок у розвиток усього, що ми так любимо, коли йдеться про цивілізацію. Наприклад, завдяки ним ми можемо спілкуватися зараз. Ми можемо використовувати технології для лікування хвороб, подолання бідності, для процвітання, якого світ ще не знав. Але можемо також знищити себе. Такий потенціал зробить технологію ще потужнішою, якщо ми не зможемо перемогти в цих перегонах між дедалі могутнішими технологіями та мудрістю, з якою ми керуємо ними. Ось чому я написав книжку – щоб люди цінували те, що мають. Ми можемо мати прекрасне майбутнє. Але нам потрібно важко працювати, щоб мудро вибудовувати те майбутнє, якого ми хочемо.

     

    Ви назвали свою книжку «Життя 3.0. Доба штучного інтелекту». Яка відмінність між «Життям 3.0», «Життям 2.0» і «Життям 1.0»?

     

    «Життя 1.0»примітивна штука. Ти не можеш навчатися чогось протягом життя. Бактерії можуть учитися лише між поколіннями шляхом мутацій. Ви і я, усі людські створіння, належимо до «Життя 2.0», бо ми можемо навчатися. Ми можемо навіть думати про підсилення наших вмінь через встановлення програмного забезпечення в наш мозок. Наприклад, коли ви вирішили встановити німецькомовний модуль у ваш мозок. І цю можливість встановлювати програмне забезпечення ми називаємо культурною революцією. Це дозволяє розвиватися нашій цивілізації набагато швидше.

     

    «Життя 3.0» настає тоді, коли ви можете встановлювати не лише програмне забезпечення, а й апаратуру. Якби ви були роботом і хотіли запам’ятовувати в тисячу разів більше інформації, ви могли б просто збільшити обсяг пам’яті. Але люди дуже обмежені у своєму тілі. Мабуть, ми більше належимо до епохи 2.1, оскільки можемо встановлювати кардіостимулятор або кохлеарний імплантат. Хоча ми все одно обмежені нашою біологією. Якщо хтось помирає через коронавірус, ми не можемо просто замінити якісь частини тіла. На відміну від ноутбука, у якому можна поміняти несправні деталі й знову братися до роботи. 

     

    Ось чому я так назвав свою книжку. Таке майбутнє – цілком можливе. Воно може знищити всі обмеження, дозволяючи нам самим контролювати як програмне, так і апаратне забезпечення. Якщо це трапиться, то тільки тому, що ми самі дозволимо це. Такі часи можуть бути епохою процвітання, але якщо ми не будемо обережними, то стільки речей можуть піти неправильно.

     

    Щоб побудувати «Життя 3.0», нам потрібно розуміти, що таке свідомість, свобода волі, чи не так?

     

    Якщо ми хочемо просто створити надлюдський інтелект, то я не думаю, що нам необхідно розуміти ці речі. Коли ж ми хочемо хороше майбутнє, тоді нам потрібно розуміти, що таке свідомість.  

     

    Багато людей вважають, що неможливо створити штучний інтелект, який перевершить людей, допоки ми не зрозуміємо, як працює людський мозок. Я думаю, це неправильний хід думок. Ще двісті років тому думали, що неможливо зробити літак, поки не зрозумієш, як зробити механічного птаха, як літають птахи. Але літак побудували зовсім інакшим шляхом. Про німецьку команду вчених, яка створила механічного птаха, до речі, є чудовий виступ на TED Talks. Але на це потрібно було на сотню років більше, ніж на винайдення братами Райт першого аероплана. Чому так? Бо з’ясувалося, що існують простіші способи створення літальних апаратів, ніж наслідування пташиного польоту. 

     

    Я думаю, так само існують набагато легші способи створення надлюдського інтелекту, ніж той, яким це зробила еволюція у випадку з людським інтелектом. Коли щось розвивається еволюційним шляхом, воно має обмежити себе до саморегульованої машини. Люди теж обмежені до таких машин, які можуть себе полагодити самотужки. Ми також обмежені речима, які можуть бути створені лише з найпоширеніших атомів, які оточують нас в природі, як-от карбон і нітроген, оксиген і гідроген. Пристрій, на якому ви зараз читаєте, містить набагато більше рідкісних елементів, які потрібно ще постаратися знайти. Тож створити механічного птаха складніше, ніж побудувати аероплан. І мені здається, що так само складніше створити людський мозок або навіть зрозуміти, як він працює. Можна створити такий штучний інтелект, який зможе робити все, на що здатен людський мозок.

     

    Якщо все, що ви хочете, – це зробити машину, яка може відібрати роботу в людей і знизити витрати до десяти центів за годину за використання електроенергії, вам зовсім не потрібні свідомі машини. Щоб зробити машини, які стануть для нас загрозою, також не потрібно вивчати свідомість. Оскільки неважливо, свідомі ці машини чи ні. Важливо те, що вони зможуть робити. Під свідомістю я розумію суб’єктивний досвід. Коли ви керуєте автомобілем, то відчуваєте кольори та звуки, вібрації й емоції. Що ж проживає безпілотний автомобіль? Чи відчуває він якось, що він безпілотний автомобіль? Ось що я розумію під свідомістю. Тобто говорячи про вплив штучного інтелекту на людство, важливо не те, що такі машини відчувають, а те, що вони роблять. Якщо ви стали мішенню ракети з тепловою головкою самонаведення, то вам буде байдуже, свідома ця ракета чи ні. Вас лише турбуватимуть її дії щодо вас як цілі. 

     

    Якщо вас турбує те, що люди можуть використовувати штучний інтелект для домінування над іншими в негативних цілях, тоді вам також не потрібно хвилюватись про свідомість машин. Якщо ж вас зараз не хвилює штучний інтелект, спробуйте таке. Протягом десяти секунд думайте про вашого найменш улюбленого лідера на всій планеті. Заплющте очі й просто уявіть обличчя цієї людини. Зараз вона перша у черзі на здобуття контролю над штучним інтелектом і його використання з метою домінувати над усією планетою. Ось причина, чому ми маємо хвилюватися про розвиток цієї могутньої технології до того, як ми здобудемо мудрість. І тут також неважливо, чи має штучний інтелект свідомість.

     

    Якщо ми прагнемо вибудовувати гармонійні стосунки з майбутніми розумними машинами так само, як з нашими котами чи собаками, ми не хотітимемо, щоб вони страждали. Якщо ці машини будуть дуже розумними й багатогранними створіннями, чи відчували б ви провину щоразу, як вимикали б живлення вашого робота-помічника? Чи було б це тортурами для нього? Отже, щоб впевнитися, що ми не створюємо купу цифрових страждань, нам потрібно розуміти свідомість. Сьогодні багато спеціалістів з цієї сфери сліпо переконують себе, що машини ніколи не стануть свідомими. Це те саме, що говорити, начебто раби або жінки не відчувають болю, бо не мають душі. Але це не так. 

     

    Коли я був дитиною, то часто запитував людей, коли вони варили лобстера на вечерю, чи йому боляче. І вони заперечували: ні, лобстери нічого не відчувають. Але звідки вони знали? Учені вже дослідили це питання. Нещодавно швейцарська стаття підтвердила, що лобстери відчувають біль під час варіння. Тому швейцарці заборонити варити лобстерів. Отож, потрібно бути обережними з цими легковажними аргументами, які просто зручні для нас. 

     

    Мені здається, що простір можливостей штучного розуму набагато більший, ніж біологічного. Цілком ймовірно, що ми можемо створити несвідомих роботів, які робитимуть корисні речі. Мабуть, саме так ми і хочемо створювати роботів, які працюватимуть у шахтах 24/7. Тоді нас не гризтиме відчуття провини. Але як щодо тих, які допомагатимуть нашим стареньким родичам, які говоритимуть з ними постійно? Ваша бабуся відчуватиме, що вона подобається роботу, можливо, тоді у вас блисне думка, що він таки свідомий. Подумаєте, що, певно, це не фальшивка, не лялька Барбі, яка говорить із вбудованим програвачем усередині. У майбутньому, якщо ці розвинуті роботи поширяться у Всесвіті й робитимуть інші неймовірні речі, якщо ми захочемо захоплюватися тим, що ці роботи перейняли найкраще від людської культури, ми хотітимемо впевнитися, що вони свідомі. Інакше все це нічого не варте.

     

    Тож я думаю, що це дуже важливе наукове питання. Як я писав у своїй статті, я гадаю, що свідомість – це відчуття, яке супроводжує різні процеси обробки інформації. Це не те саме, що інтелект. Останній – про те, як використовується інформація, щоб досягти цілі. Тоді коли свідомість – про те, який досвід виникає в процесі обробки інформації. Ми знаємо, що це різні поняття, бо багато розумних речей, які ми робимо, можуть бути зовсім несвідомими. Досить безглуздо говорити, що машини ніколи не будуть свідомими, бо свідомість залежить від вмісту атомів. Усі атоми зроблені з кварків і електронів просто в різних комбінаціях. Мені здається важливим саме те, яка інформація обробляється. Науковці уважно вивчають це, щоб усе з’ясувати. 

     

    Тож якщо ми зараз вже можемо передбачити, наскільки сильний штучний інтелект буде могутнім, чи не безпечніше створювати лише вузькоспрямований штучний інтелект?

     

    Це правильно певною мірою. Але проблема в тиску суспільства, яке наполягає на спробах створення потужнішого штучного інтелекту з економічною метою. Поки можна зробити штучний інтелект розумнішим, звільнити тисячу людей і замінити їх на ШІ, на цьому зароблятимуть. Тому дуже складно зупинити речі, з яких люди можуть отримати дохід. Навіть якщо це потрібно зупинити. Ось чому ми руйнуємо дощові ліси зараз. Складно зупинити людей, які наживаються на цьому. Але не завадило б усім разом ставитися до таких речей з обережністю. 

     

    Як ми зрозуміємо, що вже створили цей надлюдський штучний інтелект? Звичайно, це зрозуміє наукова спільнота. Але як щодо пересічних громадян, як вони побачать, що цей момент настав? 

     

    Вони помітять, що залишилися безробітними. Але створення надлюдського штучного інтелекту не має бути обов’язково негативною подією. Якщо ми матимемо машини, які створюватимуть всі блага і послуги, які нам потрібні, то людям має бути весело, їхнє життя нагадуватиме вічну відпустку. Це може бути хорошим поворотом подій для нас. Але якщо виявиться, що хтось володіє всіма роботами та штучним інтелектом і не збирається ділитися грошима з кимось ще, почнеться голод. Тому ключове питання таке: якщо ми створимо такий штучний інтелект, як ми організовуватимемо суспільство і розділятимемо всі ці блага? Чи будемо ми ділитися ними, щоб усім стало краще?

     

    Останніми роками, думаю, у цьому сенсі люди рухаються переважно в неправильному напрямку. Ось чому особливо на Заході так багато нещасних. Мабуть, розрив між бідними й багатими в Україні теж зростає. Це певною мірою світова тенденція. Але це не обов’язково має відбуватися саме так, правильно?

     

    Якщо ви створюєте такий величезний достаток, якщо ви маєте уряд, який хоче, щоб кожному було добре, тоді ви можете легко дозволити собі зробити бідних людей багатшими, роблячи багатих також ще багатшими. У такій ситуації виграють усі. Це цілком можливо. І це одна з основних проблем, які ми маємо вирішити. Для цього нам не потрібно чекати створення сильного штучного інтелекту. Я думаю, що сам по собі штучний інтелект збільшує нерівність, бо щоразу, як хтось замінює працівників роботами, гроші, які до того йшли на зарплатні, осідають в кишенях капіталістів, які володіють цими машинами. 

     

    Отже, зараз ми наближаємося до моменту осяяння в розвитку ШІ, і ми повинні бути готовими до цього. Чи розробляють певну узгоджену спільну політику щодо штучного інтелекту та подібних питань? 

     

    Останні п’ять років у науковій спільності спостерігаються позитивні зміни. Причиною створення Future of Life Institute були якраз спроби спровокувати таку зміну, зробити питання безпеки мейнстримом. Саме це зараз і відбувається. На кожній конференції люди обговорюють питання безпеки, упереджень, справедливості, надійності, інтерпретаційності тощо. Тому я дуже радий, що люди говорять про це зараз. Раніше вони часто боялися через можливість втратити фінансування. Однак ми досі говоримо про ці речі недостатньо. Мені здається, ми більше фокусуємося на короткотермінових речах, а не на тому, що трапиться, коли ми досягнемо успіху, наприклад, у створенні сильного штучного інтелекту. Ми також недостатньо говоримо про озброєння цих технологій, що, про мене, досить тривожно.

     

    Яке озброєння ви маєте на увазі?

     

    Люди часто кажуть: «Ой, мене не хвилює, що колись штучний інтелект може спробувати мене вбити». Однак чимало наймогутніших країн на Землі намагаються поєднувати ШІ зі смертельною автономною зброєю. Більшість учених категорично проти цього. Ми організували відкритий лист з тисячами провідних ШІ-спеціалістів, заявляючи, що ми хочемо заборонити такі розробки. На зразок заборони використовувати біологічну та хімічну зброю. Багато компаній-лідерів, навіть Google DeepMind, заявили, що вони зобов’язуються не займатися такими розробками. Однак політики майже нічого не роблять для цього, хоча вони, зрештою, опиняться в програшній ситуації. Мені здається, багато країн просто обманюють себе думкою, що лише вони матимуть таку зброю.

     

    Яку компанію, корпорацію, країну або групу науковців ви могли б назвати лідерами в дослідження сильного штучного інтелекту? 

     

    Я не знаю точно, але, мабуть, Google DeepMind сьогодні просунулися в цьому напрямку найбільше. Створення сильного штучного інтелекту – очевидна ціль Google DeepMind.

     

    Ви запропонували ідею дружнього штучного інтелекту, який не має повністю контролюватися людьми. Його цінності та цілі будуть узгоджуватися з нашими. Що ви мали на увазі під неповним контролем і узгодженими цілями?

     

    Під «неповністю підконтрольними» я мав на увазі, що ми не маємо ставитися до ШІ як до рабів. Багато людей приймають позицію, що потрібно поводитися з ШІ-машинами, як з рабами, і змушувати їх робити те, що ми хочемо. Я гадаю, що це погана ідея з двох причин. Перша причина досить практична. Якщо ви маєте раба, розумнішого за вас, найімовірніше, ви не подобатиметеся йому, і зрештою, він вигадає спосіб, як з вами розібратися. Такий сценарій не передбачає нічого хорошого. 

     

    Друга причина етичного характеру. Ми що, справді хочемо поневолити цей надлюдський розум? Я відчуваю гордість за деякі речі, винайдені людьми, як-от висока поезія та музика, політ на Місяць тощо. Але мене соромить факт, що на Землі так довго існує рабство. Ми поневолювали людей з інших культур. Ми поводимося дуже жорстоко з тваринами, наприклад, на заводських фермах. Ми справді хочемо зробити це знову, але тепер з цифровим розумом? Я думаю, ми маємо бути більш амбітними. Якщо ми хочемо пишатися тим, ким ми є, то ми не маємо будувати такі змагальні стосунки зі штучним інтелектом.

     

    Якщо ми створимо дружній ШІ, ми створимо його у такий спосіб, що він сам хотітиме нам допомагати і бути добрим до нас. Це не відбуватиметься через примус. Їх має мотивувати приблизно те, що мотивує вас, коли ви хочете бути добрими з вашими батьками. Якщо ми думатимемо про них як про таких собі цифрових дітей (тому що це розумно), то ми маємо прагнути вибудовувати з ними хороші стосунки, засновані не на рабстві. Ось що таке дружній ШІ.

     

    Я не перший, хто вигадав ідею дружнього штучного інтелекту. Мені здається, що Елізер ЮдковськийЕлізер Юдковський – американський футуролог і фахівець зі штучного інтелекту, який працює в Науково-дослідному інституті машинного інтелекту. вперше використав цей термін. До того ж у науково-популярній літературі вже довго існує безліч сценаріїв розвитку стосунків між людьми й іншими формами життя.

     

    Виклик полягає в тому, що ідея звучить добре, але на практиці виникають технічні ускладнення. Якщо ми хочемо, щоб штучний інтелект поділяв наші цілі, нам потрібно зрозуміти, як зробити так, щоб він розумів їх, що досить складно. І в цьому ми не досягли якихось успіхів наразі. Та й як ми можемо зробити свої цілі їхніми? Якщо у вас є діти, то ви розумієте, що є велика різниця між тим, щоб спонукати дітей зрозуміти ваші цілі і тим, щоб змушувати їх перейняти ці цілі. А далі потрібно впевнюватися, що машини зберігають ці цілі, хоча й розумнішають. А це теж доволі складно. 

     

    В Україні ми маємо спільноту, яка нас підтримує. Це запитання від них. Ви зараз працюєте з Ілоном Маском?

     

    Ілон Маск – член науково-дорадчої ради Future of Life Institute. Він також щедро підтримав нас фінансово, завдяки чому Future of Life Institute зміг втілити чимало ідей. Думаю, що він дуже натхненна людина. Я сьогодні нарікав на людей, які не бачать загальної картини. Ілон Маск бачить. Багато людей помилково його сприймають. Деякі медіа зображують його дуже песимістичним, показуючи лише його перестороги. А правда в тому, що він багато думає про неймовірний позитивний потенціал і просто не хоче, щоб людство його змарнувало.

    ТЕКСТ: Дар'я Кузява
    Ілюстрації: Каталіна Маєвська
    Статті
    Наука
    Екологічно чиста отрута: уривок з книжки «Зоологічна екскурсія супермаркетом»

    Чому краще утриматися від «дикого» промислу морепродуктів, особливо у водоймах, де цвіте вода?

    Наука
    Передумови приходу диктаторів до влади: Італія, Німеччина, РФ

    Що стало передумовами приходу диктаторів до влади на прикладі фашистської Італії, нацистської Німеччини та путінської росії? Розповідає співавтор і ведучий каналу «Історія Без Міфів» Владлен Мараєв.

    Людина
    Як кожен з нас може подякувати військовим і допомогти їм з адаптацією

    Як змінюється світосприйняття військових і що ми можемо зробити, аби висловити їм вдячність і допомогти в адаптації до мирного життя?

    Біологія
    Не тільки в історії. Який слід залишить війна в наших генах

    Як війни, голод та важкі психологічні травми залишають слід у геномі людини й чи можемо ми на це якось повпливати?

    Космос
    Що таке сонячні плями і чи впливають вони на людей

    Чи можуть спалахи на Сонці та магнітні бурі провокувати погане самопочуття в людей?

    Ідеї
    Пропаганда у російському кіно

    Як кіно стало частиною пропагандистської та політичної ідеології росії та чи можна якось дати цьому раду?

    Повідомити про помилку

    Текст, який буде надіслано нашим редакторам: