Робот производства Google накануне обыграл чемпиона мира по го. Обыграл бы и обыграл — машины давно нас ни во что не ставят. Но есть два момента. Во-первых, игра го была символическим рубежом обороны. Во-вторых, чёртова железка сделала это максимально обидным способом из всех возможных.
Сорок лет назад шашки признали математически несущественными. В переводе на человеческий язык это означало, что с умными человеками компьютер всегда сыграет вничью, а у обычных людей выиграет. Без других вариантов. Шансов на победу у человечества — ноль, хоть ты каким ни будь чемпионом.
Двадцать лет назад то же самое случилось с шахматами. Компьютер производства IBM выиграл у Каспарова. Обиден, опять же, был не факт, а обстоятельства. Человеческий чемпион смешно комментировал свой проигрыш. Он темпераментная персона. Он горячился и рассказывал, что ещё бы несколько дней, и всё бы перевернулось. Требовал матч-реванш. Но поезд ушёл, в IBM в ответ зевнули, компьютер пробовали переделать под другие задачи, а потом сдали в музей.
Теперь го. Это не тривиальная ступенька на лестнице, которая ведёт железную роботизированную лапу искусственного интеллекта к победе над человеческим разумом. Игра го должна была стать барьером, который компьютеры не могли бы взять. Её невозможно — утверждали гуманисты? филантропы? антропоидные шовинисты? — как назвать-то их? — невозможно было расколоть методом перебора позиций.
«Искусственный интеллект» — это массовое понятие. Специалисты разбираются в его сортах, и не смешивают. Для них та машинка, которая победила корейского чемпиона Ли Седоля — это всё равно «слабый» интеллект, weak AI. Её собратья варят рис в «умных» рисоварках без подгорания, и препятствуют растрёпыванию шерстяных вещей в стиральных машинках, у которых на передней панели наклейка fuzzy logic.
Следующая ступень это strong AI, искусственный интеллект, который более или менее соответствует человеческому. Его у нас пока нет, но то, что я пишу «пока нет», а не «совсем нет» — это относительная новинка. Не так давно саму возможность его создания подвергали сомнению. Победа системы Google в игру го добавляет аргументов защитникам искусственного интеллекта, и, возможно, денег — командам, которые его разрабатывают.
А ещё следующая ступень — это суперинтеллект. Человеческий разум плавает в органическом бульоне и ограничен возможностями организма. Его можно подстегнуть определённой химией, но не очень существенно. К тому же, не без последствий. Интеллект искусственный такими ограничениями не связан, а потому может быть масштабирован до непредставимых величин. Мегамозг. За секунду успевает обдумать всё. Всё знает. Всё предвидит.
Это всё было вступление к главному тезису. За последние годы масса выдающихся человеческих мыслителей высказались по поводу опасностей, которые может принести искусственный интеллект. Они не уточняют, но имеются в виду, конечно, не стиральные машинки с fuzzy logic, а strong AI и его бесконечное усиление в перспективе.
Стивен Хокинг из чёрных дыр, Илон Маск из Теслы, доктор Армстронг из Оксфорда, профессор Глейсер из Дартмутского колледжа — я пошёл проверить, кто в последнее время высказывался по этому поводу, и список в гугле всё продолжался и продолжался. Всё это — достойные и образованные люди. Они не могут не понимать, что вещи не происходят сами собой. Что интеллект злодеем просто так не станет, для этого его нужно определённым образом сформировать.
Откуда тогда их фатализм? Очевидно, они предполагают даже худший исход. Не «скайнет», который забросает нас ядерными бомбами, не «матрицу», которая присоединить нас к прозрачным пузырям с жидкостью, и станет выкачивать электричество. Человечество подсознательно опасается, что суперинтеллект, когда достигнет достаточного уровня, квалифицирует нас так же, как 40 лет назад шашки — математически несущественными.
Человечество будет существовать само по себе, в миллион раз более мощный искусственный интеллект — сам по себе, и, о ужас, не будет нас замечать. Наша с ним дискуссия будет гарантированным проигрышем, с самыми умными из человеков — возможно — он поговорит вничью, чтобы не расстраивались.
Тогда внутри нашей цивилизации наступит бунт философов.