Нобелевский лауреат и глава Google DeepMind Демис Хассабис ранее на этой неделе обронил на мероприятии Google фразу, от которой поморщилась его же пиар-служба: мы стоим в предгорьях сингулярности. В Стэнфорде он эту мысль развернул – до искусственного интеллекта человеческого уровня осталось несколько лет, а общество к переменам не готово. В разговоре с президентом университета Джонатаном Левином он сравнил надвигающиеся перемены с десятью промышленными революциями, спрессованными в одно десятилетие, и описал двойную гонку – между лабораториями и между США и Китаем, – в которой осторожность превратилась в конкурентный проигрыш. Хассабис объяснил, почему отдал AlphaFold бесплатно, чем опасна "гонка на дно" в безопасности ИИ и почему, по его словам, будущее всё ещё не написано.
Сара Соул: Огромная радость видеть всех вас на разговоре с Демисом Хассабисом. Для нас особая честь, что эту беседу ведёт президент Стэнфорда Джонатан Левин.
Стэнфорд уникален тем, что многие важнейшие идеи рождаются не внутри отдельной школы или дисциплины, а на их стыке. Этот дух междисциплинарного сотрудничества особенно важен сейчас, когда искусственный интеллект меняет почти все сферы жизни общества. И нигде это не имеет таких последствий, как в медицине. Я чувствую это лично – через тесное партнёрство нашей школы бизнеса со Стэнфордской медицинской школой, которая взялась за грандиозную задачу: заново придумать, как лечить рак и бороться с ним, объединив специалистов по социальным наукам, учёных, врачей, инженеров и новаторов, чтобы изменить весь путь пациента – от профилактики до жизни после болезни.
Это амбициозное видение, и оно потребует всех возможностей большого университета, работающего сообща. Сила Стэнфорда не только в превосходстве внутри отдельных областей, но и в умении связывать их между собой. Мы сводим вместе исследователей ИИ и врачей, руководителей организаций и учёных, предпринимателей и людей, глубоко преданных идее человеческого благополучия. Поэтому сегодняшний разговор так важен.
Демис Хассабис – исследователь искусственного интеллекта, предприниматель и нобелевский лауреат, чья работа находится ровно на этих пересечениях. Он сооснователь и CEO компании Google DeepMind, одной из ведущих в мире лабораторий по исследованию ИИ. Она была основана как DeepMind в 2010 году и куплена Google в 2014-м. Сегодня компания играет центральную роль в усилиях Google в области ИИ и подарила миру несколько определяющих прорывов. Среди них AlphaGo – первая программа, обыгравшая чемпиона мира по игре го, и AlphaFold, решившая 50-летнюю фундаментальную проблему предсказания структуры белка: она точно предсказывает трёхмерную форму белков. Это прорыв с огромными последствиями для понимания болезней и разработки лекарств. За эту работу Демис вместе с Джоном Джампером и Дэвидом Бейкером получил Нобелевскую премию по химии 2024 года. Он также член Лондонского королевского общества и Королевской инженерной академии. В 2024 году он был посвящён в рыцари за заслуги перед искусственным интеллектом. Несколько раз входил в список Time 100 самых влиятельных людей мира, в том числе в 2017 и 2025 годах.
Но что делает этот момент в Стэнфорде особенно значимым – так это то, что разговор об ИИ здесь никогда не сводился только к возможностям технологии. Он всегда был и о человеческом процветании. Несколько лет назад профессора Фей-Фей Ли и Дженнифер Аакер начали вести в Стэнфорде курс "ИИ для человеческого процветания", построенный вокруг глубоких вопросов. Что значит быть человеком? Как выглядит процветание? И когда технология помогает этим целям, а когда подрывает их?
Одна мысль из этой работы крепко засела у меня в голове: некоторые виды трения на самом деле несущие. Поиск нужного слова, неловкость трудных разговоров, сложность освоения нового – это не неэффективность, которую надо устранить. Наоборот, именно через такой опыт рождаются рост, самостоятельность, стойкость и смысл.
Вот почему наш сегодняшний разговор так важен. В Стэнфорде успехи ИИ – не абстракция. Они уже меняют то, как мы думаем об открытиях, диагностике, лидерстве, обучении и о самом человеческом потенциале. Они же заставляют нас всерьёз браться за более крупные вопросы – о суждении, этике, институтах и о том, какую жизнь мы в итоге хотим строить с помощью технологий. Спасибо, что пришли, и поприветствуйте вместе со мной президента Джонатана Левина и Демиса Хассабиса.
Джонатан Левин: Демис, рад видеть вас в Стэнфорде.
Демис Хассабис: Прекрасно быть здесь. Спасибо всем, что пришли.
Джонатан Левин: Спасибо, что согласились на это. Я задам вам несколько вопросов, будут и вопросы от студентов.
Сквозная линия карьеры
Джонатан Левин: О вас много писали в последнее время – фильм, книга, так что многие слышали о вашем пути. Он и правда впечатляющий: вундеркинд-шахматист, разработчик видеоигр, учёный, технологический предприниматель и руководитель, нобелевский лауреат. И это только первая половина карьеры. Если бы вы попытались провести сквозную линию через всё это, что бы это было?
Демис Хассабис: Думаю, таких сквозных линий несколько, хотя темы кажутся не связанными между собой. Во-первых, мне всегда нравилось работать на пересечении творчества и технологий в самом широком смысле. Индустрия видеоигр, с которой началась моя карьера в 90-е, была одним из самых творческих пространств вообще – там передовые технологии соединялись с искусством и дизайном, чтобы создать совершенно новую развлекательную среду. Это было потрясающее время; пожалуй, самые весёлые годы в моей карьере пришлись как раз на начало 90-х.
Шахматы, нейробиология – всем этим я занимался, потому что с самого раннего возраста считал, что работа над ИИ и AGI (общим искусственным интеллектом, сопоставимым с человеческим) – самое важное и самое интересное, чему можно посвятить жизнь. Подростком я, наверное, прочитал слишком много научной фантастики, читал такие книги, как "Гёдель, Эшер, Бах", биографии моих научных героев – Тьюринга, Фейнмана и других. Всё это вдохновляло меня по-настоящему глубоко понять окружающий мир. А создание ИИ стало для меня воплощением этой миссии – построить совершенный инструмент для науки.
Жизнь коротка, поэтому я старался переиспользовать каждый свой опыт ради этой большой путеводной цели, которая у меня есть уже больше 30 лет. Шахматная подготовка – это то, как я мыслю о бизнесе, об организации дел, о планировании; умение разбивать очень амбициозные планы на более мелкие, выполнимые шаги идёт именно из шахматного мышления. Видеоигры научили меня инженерным проектам большого масштаба, управлению компаниями и стартапами. А соединение творчества с инженерией – это ровно то, чем мы сегодня занимаемся с ИИ: это инженерная наука, где творческая и научная работа сплавлены с жёсткой, передовой инженерией. И наконец, как все знают, в ранние годы DeepMind мы использовали игры как идеальный полигон для проверки алгоритмических идей – наверное, самый известный пример это AlphaGo, десятилетие которого мы только что отметили и который, если оглянуться, стал началом современной эпохи ИИ.
"Решить интеллект, потом – всё остальное"
Джонатан Левин: Когда вы в 2010-м всерьёз занялись ИИ, основали DeepMind, у вас было очень амбициозное видение: вы собирались решить интеллект, а затем решить всё остальное. Как успехи? Давайте уточню: что пошло по плану, а что – нет?
Демис Хассабис: Если брать общие контуры, всё сложилось – пожалуй, невероятно удачно. Когда мы запускали DeepMind в 2010 году, представьте: мы ходили по венчурным инвесторам в Британии, которых там и было-то немного, с таким бизнес-планом – шаг первый: решить интеллект, шаг второй: использовать его, чтобы решить всё остальное. Люди были, мягко говоря, в недоумении. Но мы говорили это всерьёз и до сих пор пользуемся ровно этой формулировкой миссии.
Под "решить интеллект" мы имели в виду построить AGI; в идеале по пути ещё и понять природу интеллекта, а возможно, использовать AGI, чтобы лучше понять собственный мозг и разум – такие вещи, как природа сознания, что такое творчество, сновидения, все эти глубокие тайны психики. Одна из причин, почему я изучал нейробиологию, – желание почерпнуть из того, что мы знаем о мозге, идеи для алгоритмов.
Шаг первый – построить AGI. А дальше мы всегда держали в голове то, что и произошло: это технология общего назначения, может быть, та самая технология общего назначения. И если построить её правильно – как очень универсальную обучающуюся систему, – где предел того, к чему её можно применить? Мечта была в том, что почти к чему угодно. И, по-моему, так и вышло.
Под шагом вторым я конкретно имел в виду продвижение науки и медицины. Меня завораживали большие вопросы: природа времени, природа реальности – может быть, самый фундаментальный из них. В школе я любил физику, это был мой любимый предмет; когда тебя интересуют большие вопросы, ты, скорее всего, приходишь к физике. Но я решил, что интересных больших вопросов слишком много. Как взяться за все сразу за одну жизнь? На мой взгляд – создавая новые инструменты, которые помогут лучшим учёным и экспертам гораздо быстрее продвигаться в их областях. К тому же сам ИИ – это ещё и захватывающий объект исследования, по сути новая научная область.
Так что мне это казалось самым увлекательным и самым важным делом, которому можно посвятить жизнь. Я занимался бы этим, даже если бы ничего не вышло, – нашёл бы способ делать это в академии или где-то ещё. А всё, чем я занимался раньше, было разными способами набрать опыт и знания, чтобы в 2010 году замахнуться на DeepMind, когда мы почувствовали, что готовы к быстрому прогрессу. И вторая часть – "использовать это, чтобы решить всё остальное" – сегодня уже гораздо шире, чем только наука и медицина, хотя именно там я старался работать лично. Очевидно, что ИИ окажется потрясающим для производительности и многого другого за пределами науки и медицины.
Atari, Pong и первый прорыв
Джонатан Левин: По мере того как вы строили в DeepMind разные модели – начали с игр, потом перешли к науке, – были ли отдельные моменты, когда вы вдруг увидели: это и правда сработает? Вроде хода AlphaGo?
Демис Хассабис: Было много моментов, когда я думал, что не сработает, – так точнее. Некоторые помню очень хорошо. Мы начали с игр, потому что они замкнуты в себе. Их специально придумали люди, чтобы они были сложными или интересными для других людей. И они часто бывают микромоделями множества реальных ситуаций. Если взять го, покер или шахматы… Я всегда думал, что в программе MBA или бизнес-школы стоило бы вести модуль по играм – изучать такие игры, дипломатию. В лучших играх есть по-настоящему интересные грани реальной жизни, и при этом в них можно тренироваться много раз в безопасной обстановке. Вот чем игры по-настоящему полезны.
То же касается и обучающихся систем ИИ: это аккуратные, сложные среды с чёткими целевыми функциями – что было очень важно для наших ранних дней с обучением с подкреплением (метод, при котором система учится методом проб и ошибок, получая награды за успех). Тогда почти никто не применял обучение с подкреплением к сколько-нибудь масштабным задачам – это была академическая дисциплина, но её использовали в основном для игрушечных задач вроде маленьких клеточных миров. Было неясно, масштабируется ли это хоть до чего-то серьёзного.
Поэтому мы начали с самых известных, но при этом самых простых игр, ставших всемирно популярными, – игр Atari 70-х годов. И начали с простейшей из всех, Pong: две ракетки и мяч. В игру встроена система, управляющая вашим противником: она использует всю информацию, которая есть у игры, – где мяч и так далее, – чтобы двигать ракетку. А мы хотели понять: можно ли играть в Pong, имея только пиксели на экране? Только сырые данные, сырой видеосигнал – и больше ничего. Никакой привилегированной информации о внутренностях программы, о том, где мяч и какова его скорость, хотя самой программе это, конечно, известно.
Нашей системе для Atari – она называлась DQN – мы ничего этого не давали. Она получала только 20 000 пикселей на экране. Сейчас это кажется ерундой, но в 2010 году это был огромный объём входных данных. Никто раньше не имел дела с чем-то настолько сложным, да ещё умноженным на все кадры. И месяцев шесть – хотя по ощущениям, может, всего два – мы не могли выиграть в Pong ни одного очка. Система просто дёргала ракетку туда-сюда. Я думал: да научится ли она вообще хотя бы управлять ракеткой? У неё не было никаких представлений обо всём этом, и она проигрывала встроенному ИИ со счётом 21:0.
У нас было несколько разных подходов, и почти не было денег. Те пара миллионов долларов финансирования, которых сегодня не хватило бы даже на стажёра, – это был весь наш бюджет, и для вас, студентов, это хорошая новость. Зарплаты мы себе почти не платили, деньги заканчивались. И я думал: ну что ж, может, мы и правда лет на десять раньше времени, а может, и на двадцать. А потом она вдруг чудом взяла очко – и я подумал: может, просто повезло. Потом она стала брать много очков, потом стала выигрывать партии, и тут стало ясно: всё, взлетели.
Те из вас, кто занимается машинным обучением, это знают: если зацепился, то обычно можешь шаг за шагом выкарабкаться наверх. Такова вообще история ИИ: стоит чему-то заработать – и почти всегда находится способ это оптимизировать. Так вышло с Atari. Это был наш первый крупный результат и первая статья в Nature – по сути, первая модель глубокого обучения с подкреплением в масштабе: глубокое обучение, чтобы освоить область и справиться со сложными зрительными входами и найти в них закономерности, а поверх него – обучение с подкреплением, чтобы принимать решения и планировать.
AlphaGo: ход, которого никто не видел
Демис Хассабис: И конечно, всё это вылилось в AlphaGo, к чему мы и стремились. Дэвид Сильвер, который возглавлял тот проект, и я дружили ещё со студенческих лет в Кембридже и обсуждали это ещё тогда, в середине 90-х. Матч Deep Blue против Каспарова случился, пока мы были в университете. Меня он завораживал и с шахматной, и с точки зрения ИИ. Но мозг Каспарова впечатлял меня больше, чем Deep Blue. Каспаров со своим невероятным умом – один из величайших шахматных гениев всех времён – на равных соперничал с этой стоявшей рядом суперкомпьютерной машиной грубой силы. Но при этом он умел делать своим умом всё остальное: говорить на пяти языках, заниматься политикой, водить машину – всё, что умеет человек. Вот это было по-настоящему впечатляюще, гораздо сильнее.
Значит, в системе Deep Blue чего-то не хватало. Те экспертные методы, где вручную задают эвристики, а поверх пускают перебор грубой силой, – так до сих пор работают многие классические шахматные программы, – годятся для шахмат, но для го они никогда не работали. Го – игра слишком эзотерическая: в ней нет материала, все камни равноценны, всё держится на узорах и интуиции. Даже сильнейшие игроки в го играют именно так. И мы подумали: если кто-то и правда дойдёт до уровня чемпиона мира в го, то ценно не само это достижение – оно скорее побочное, – а то, что нужный подход почти наверняка окажется по-настоящему интересным алгоритмически и, надеюсь, обобщится на другие области. Так и вышло с AlphaGo.
И всё превзошло наши самые смелые мечты. AlphaGo не только выиграл матч у Ли Седоля в 2016 году – он создал новые, никогда прежде не виданные стратегии, хотя го – древнейшая игра, придуманная человечеством, ей больше двух тысяч лет, и профессионально в неё играют сотни лет. А этих стратегий мы не открыли. Для меня это был двойной триумф. Я ждал того момента, когда ИИ сможет придумать что-то по-настоящему новое. Это, конечно, не высший уровень творчества, есть и более высокие, но это была хотя бы новая идея. И именно этого момента я ждал, чтобы начать применять ИИ в науке. Как только мы вернулись из Сеула, мы запустили проект AlphaFold.
AlphaFold: почему его отдали бесплатно
Джонатан Левин: Давайте поговорим о науке. Вы перешли к проблеме сворачивания белка – и снова выбрали задачу, где были данные и чёткая целевая функция. И всё получилось: вы и правда решили давнюю проблему предсказания структуры белка. При этом вы сделали нечто очень интересное. AlphaFold был огромным научным прорывом, достойным Нобелевки, и, вероятно, имел большую коммерческую ценность – а вы просто раздали его бесплатно. Как вы пришли к этому решению? Думали ли о других вариантах? Почему отдали даром?
Демис Хассабис: Мы выбрали проблему сворачивания белка. Она была у меня на прицеле тоже со студенческих лет в Кембридже – там я впервые с ней столкнулся. У меня было несколько друзей-биологов, помешанных на этой проблеме; в итоге они стали структурными биологами. Один из них каждый раз, когда мы играли в пабе в настольный футбол, навязчиво твердил, что это важнейшая проблема биологии. И что ещё важнее, я воспринимаю её как корневую: если её разгадать и найти структуры белков, это откроет целые новые направления исследований – очевидно, разработку лекарств, но и фундаментальную биологию, и понимание болезней. Так что на эту задачу стоило потратить массу внимания и времени – из-за всех её последствий ниже по цепочке.
К тому же сама задача казалась мне завораживающей – вершина головоломки: как последовательность аминокислот, которую можно мыслить как генетическую последовательность, сворачивается в трёхмерную структуру. Удивительно интересная, тонкая штука. Чем больше я вникал в белки, тем сильнее росло моё восхищение биологией – эти невероятные крошечные биологические наномашины. Вся жизнь зависит от белков; начинаешь смотреть на их структуру – и начинаешь понимать их функцию. Как научный вопрос это меня завораживало.
И да, тут была чёткая цель – что-то вроде минимизации свободной энергии системы. Видимо, именно так это делает физика – потому белки в вашем теле сворачиваются за миллисекунды, миллиарды раз в секунду. Раз физика как-то это решает, значит, должна быть некая топология, которую можно выучить с помощью системы глубокого обучения, чтобы она направляла поиск – ровно как мы сделали с AlphaGo, отыскивая сильный ход в го среди большего числа вариантов, чем атомов во Вселенной. У сворачивания белка пространство поиска даже больше, но должен быть способ разумно его сузить: выучить своего рода эвристику с помощью моделей глубокого обучения, чтобы направлять поиск и сделать задачу решаемой. Это казалось задачей, очень похожей на ту, что мы решили в го, – можно было применить те же подходы и идеи к новой области.
И ещё одно. За плечами было 50 лет кропотливой работы по кристаллографии и структурной биологии, проделанной множеством прекрасных лабораторий и людей. После всех этих усилий в PDB (Protein Data Bank – главной базе данных структур белков) накопилось около 150 000 структур. На самом деле это немного: за этим стоит колоссальный труд, но белков существует 200 миллионов, а 150 000 для систем машинного обучения – очень мало данных. Поэтому большинство считало, что до достаточного объёма данных и нужных алгоритмов ещё лет десять-двадцать. Но мы почувствовали, что, задействовав все известные нам приёмы, в итоге сможем продвинуться. Так и вышло.
Когда мы решали, как добиться максимального эффекта, мне было очевидно: надо свернуть все белки. AlphaFold был не только точным, но и чрезвычайно быстрым – он сворачивал белок за считаные секунды. В итоге мы вместе с Европейским институтом биоинформатики в Кембридже, где хранятся многие крупнейшие биологические базы данных, выложили все 200 миллионов структур белков в их базу – так, чтобы найти структуру своего белка было так же просто, как сделать поиск в Google. Вместе с доверительными интервалами: система машинного обучения показывала, в каких частях структуры она уверена, а в каких нет, – это очень важно знать биологам.
Это, конечно, могло стоить очень дорого – не знаю, сколько миллиардов долларов, смотря как считать; сделать это экспериментально стоило бы и вовсе неисчислимо, и держать в собственности было бы огромной ценностью. Но для нас было ясно: сами мы смогли бы лишь поцарапать поверхность того эффекта, который дадут эти структуры, выложенные в открытый доступ. По всему миру AlphaFold пользуются около трёх миллионов исследователей – практически каждый день. Почти каждый биолог и медицинский исследователь в мире. Ни одна организация в одиночку такого бы не сделала. Так что это явно было правильное решение.
К тому же первые версии AlphaFold мы обучали на публичных данных – значит, было только справедливо вернуть этот удивительный ресурс сообществу структурных биологов, которое его так кропотливо создавало. Для меня это даже не был вопрос. Замечательно, что и руководители Google любят науку и сразу это поняли – не уверен, что все компании приняли бы такое решение, так что им за это большой респект. Это был лёгкий разговор. А дальше мы сами стараемся двигать это вниз по цепочке через Isomorphic Labs – дочернюю компанию Alphabet, которая строит несколько прорывов уровня AlphaFold и соединяет их так, чтобы, я надеюсь, ускорить разработку лекарств – сократить её с лет до месяцев, а может, когда-нибудь и до недель. Ровно как мы сделали со структурами белков, на одну из которых раньше уходили годы, а теперь хватает секунд. Это одно из по-настоящему волнующих направлений будущего с ИИ.
В предгорьях сингулярности
Джонатан Левин: Хочу на минуту вернуться к тому, что вы сказали в начале этой недели. Вы попали в новости, потому что на большом мероприятии Google заявили, что мы находимся в предгорьях сингулярности.
Демис Хассабис: Да, эта фраза разошлась довольно широко.
Джонатан Левин: Очень широко. И я понимаю, что пиар-команда Google, возможно, была не в восторге. Но раз уж вы это сказали – что вы имели в виду?
Демис Хассабис: Полностью я сказал вот что – этим я закрывал конференцию: когда мы будем оглядываться на это время – я думаю, лет через десять, – мы поймём, что стояли в предгорьях сингулярности. Что я под этим понимаю и почему выбрал именно это слово. Есть технология – AGI; так мы называем эту следующую версию по-настоящему универсального искусственного интеллекта. Я уверен, что до неё всего несколько лет – может, к 2030 году плюс-минус год, что само по себе поразительно. А дальше наступит эпоха, которая, я думаю, окажется настолько огромной и преобразующей, что по сути станет новой эрой человечества. Вот что я понимаю под сингулярностью – и о чём писали многие фантасты: это описание эпохи, в которой мы окажемся примерно тогда, когда появится AGI.
И, по-моему, в этом году это можно почувствовать. Хотя я работаю над этим 30 лет, именно в этом году – с тем, как работают агенты и использование инструментов, – всё это начало становиться по-настоящему полезным в рабочих процессах людей. Ещё ранняя стадия, но уже настоящая польза. И мы примерно понимаем, что ещё нужно доделать; все ведущие лаборатории над этим работают. Думаю, это самое начало, предгорья – впереди ещё много работы. И дело не в чём-то одном, а в нескольких разных технологиях и сценариях использования; некоторые вещи, которые я считал более далёкими, оказались уже здесь. В совокупности это и заставляет меня так говорить. А сказать это я хотел потому, что обществу нужно это услышать: у нас мало времени, чтобы подготовиться к тому, что это значит. Последствия будут колоссальными, и будущее, на мой взгляд, ещё не написано. Но ближайшие несколько лет станут критически важными – в какую сторону всё пойдёт и каким мы все вместе хотим это видеть.
Почему общество боится ИИ
Джонатан Левин: Если посмотреть опросы о том, как люди воспринимают ИИ – особенно в этой стране, – сейчас настрой очень негативный. Возможно, более негативный, чем в других странах. Причин, наверное, много: тревога о приватности, о госконтроле, о размере техкомпаний, о рабочих местах. Вы руководите одной из ведущих лабораторий – как вы относитесь к этой общественной тревоге?
Демис Хассабис: Думаю, общество вправе тревожиться. Есть вещи, которые беспокоят и меня – несколько аспектов того, что представляет собой эта технология. Она двойного назначения. Нечто настолько глубокое… Я иногда описываю её так: по масштабу это десять промышленных революций, спрессованных и идущих в десять раз быстрее – за десятилетие, а не за век. То есть это как бы стократная промышленная революция. И, честно говоря, это, скорее всего, ещё и недооценка, но и этого достаточно, чтобы попытаться осмыслить и справиться.
Конечно, будет и масса всего захватывающего – например, мы пытаемся справиться со всеми болезнями. Я уверен, что ИИ поможет со многими вызовами, стоящими сегодня перед обществом: от климата и энергетики до болезней. Я бы куда сильнее тревожился об этих вызовах, если бы не думал, что на подходе нечто вроде ИИ. Но он вызовет и множество перемен и потрясений – и технических, и экономических, и философских. Нам нужно всё это очень вдумчиво продумать и собрать вместе все части общества, а не только технологов. Технология и её безопасность – лишь один кусочек. Нужны экономисты, обществоведы, специалисты по человеку и человечеству, чтобы наметить, что будет дальше.
Думаю, одна из причин негатива именно здесь – в том, что в других странах всё иначе. Например, мы вернулись с саммита в Индии – там ИИ страшно популярен у молодёжи, потому что она видит открывающиеся возможности: доступ примерно к тем же инструментам, ради которых раньше нужно было ехать в Кремниевую долину. Мы живём в удивительный момент: почти каждый может получить доступ к тому, что происходит в передовых лабораториях, с задержкой всего в несколько месяцев. Если вдуматься, это что-то неслыханное.
Но отчасти дело и в том, как некоторые мои коллеги по цеху всё это формулируют. По-моему, они недостаточно аккуратны в коммуникации и слишком категоричны в своих заявлениях – там, где на деле огромная неопределённость. Сама эта неопределённость тревожна, но она же означает, что ничего ещё не предрешено. О направлении кое-что сказать можно, но очень многое зависит от действий ближайших лет – и от вас, сегодняшней молодёжи, многих студентов в этом зале. Вы первое поколение, выросшее, можно сказать, на ИИ – как я вырос на компьютерах. И, как каждое поколение, вы освоите эти технологии и станете с ними очень продуктивными. Думаю, по крайней мере ближайшие десять лет – дальше предсказывать трудно – вы будете буквально наделены сверхспособностями, если будете пользоваться ими правильно. Объём творчества и проектов, который сможет потянуть один человек, резко вырастет. Но это, возможно, изменит и саму природу занятости – станет больше небольших предпринимательских начинаний, а не больших компаний. Не знаю. Изменится многое.
И часть этого – в том, чтобы общество объединилось и всерьёз восприняло эту экспоненту. Не только технологи – экономисты и другие. Мы как раз обсуждали это вчера вечером: всё это нужно воспринять всерьёз прямо сейчас и начать намечать, как это будет выглядеть. Если мы окажемся, например, в мире изобилия, где дефицита больше нет, – как сделать, чтобы выгоду получили все? Очевидно, неправильно, чтобы от этой технологии выигрывали лишь несколько человек, или несколько компаний, или даже несколько стран. Выгода должна быть широкой – это затронет всё человечество, и блага должны достаться всем. Но как именно это сделать? Многие из нас давно об этом говорят, но ответы и конкретные действия нужны уже сейчас. Я намерен внести свой вклад. Мы важный игрок, но всё же лишь один из игроков. Хорошая новость в том, что все ведущие лаборатории и их руководители, хоть и расходятся во многом, действительно тревожатся о такого рода надвигающихся проблемах. Но нам нужно больше площадок, чтобы откровеннее всё это обсуждать. Думаю, именно это публика и улавливает – слегка перекошенные разговоры о том, что будет; а за частью этих сообщений, возможно, стоят и скрытые мотивы – привлечение денег и прочее. Нам нужно пользоваться научным методом, быть по-настоящему строгими и вдумчивыми в этот критический момент истории.
И, пожалуй, последнее. Я бы очень хотел, чтобы отрасль и всё поле недвусмысленно показали, в чём польза, – и не просто говорили о ней, а демонстрировали. В здоровье, в медицине, в науке – это, на мой взгляд, безусловные блага, как AlphaFold. Но таких примеров недостаточно. Их должно быть двадцать, как AlphaFold. Надо перестать рассуждать гипотетически о победе над раком и действительно победить рак. Вот что нужно, чтобы показать людям, почему те из нас, кто воодушевлён всем этим – а в этом зале таких много, – почему мы посвятили этому жизнь и как именно мы собираемся снижать риски, давая при этом дорогу всему тому замечательному, что мы хотим увидеть и что нужно обществу.
Джонатан Левин: Много отличных мыслей. Если бы появились ощутимые выгоды от прорывов ИИ – скажем, для здоровья людей или разработки лекарств, – это, возможно, изменило бы восприятие. И мне нравится мысль попытаться заглянуть дальше вперёд, в мир, который может выглядеть совсем иначе с точки зрения производительности. Это и правда трудно. В социальных науках редко удаётся вырваться за нынешние рамки и заглянуть далеко вперёд. Я вспоминаю прекрасное эссе Кейнса времён Великой депрессии, где он смотрит на экономическую жизнь наших внуков. Вчера вечером вы говорили, что сейчас нам нужен новый Кейнс – и, может быть, кто-то в этом зале им станет.
Гонка лабораторий и вопрос регулирования
Джонатан Левин: Позвольте спросить вот о чём. Много лет вы говорите о том, что передовым лабораториям нужно в каком-то смысле саморегулироваться – иногда не выпускать определённые технологии, которые могут угрожать безопасности. Сейчас же очевидно, что лаборатории несутся в бешеной гонке, вкладывают всё, идут ва-банк. Вы по-прежнему считаете, что лаборатории должны саморегулироваться? Или думаете, что вмешаться должно государство? Как вы видите нынешнюю динамику по сравнению с тем, как думали об этом раньше?
Демис Хассабис: Сначала немного исторического контекста. Мы уже говорили о том, как развивалась технология. По-моему, она развивалась поразительно – может, даже лучше, чем я воображал 20 лет назад. А вот среда, в которой всё это рождается, далека от идеала. Очень далека. Лет 15-10 назад я сильно тревожился, что возникнет именно такая гоночная динамика – по мере того как всё больше людей, компаний и амбициозных техлидеров осознавали то, что я понимал уже 20 с лишним лет: насколько важной окажется эта технология. Мы говорили об опасностях такой гонки. И, к сожалению, к ней мы и пришли – из-за того, как сложилась технология.
Если бы я мог взмахнуть волшебной палочкой, я построил бы AGI – общую технологию – скорее в исследовательском центре вроде ЦЕРНа: лучшие умы критикуют идеи друг друга, мы строго придерживаемся научного метода, тщательно всё тестируем и понимаем каждый сделанный шаг. При этом не пришлось бы ждать ради общественной пользы: AGI появился бы позже, может, на десять лет, но параллельно мы отламывали бы от него куски и использовали их для специализированных систем – больше таких AlphaFold, побеждающих болезни. Это можно делать уже сейчас, потому что AlphaFold – специализированная гибридная система: она использует много идей из систем общего назначения, но заточена под сворачивание белка. Таким и было моё видение – ведь именно этим мы и занимались.
Но чат-боты всё изменили. По сути, это, наверное, единственный сюрприз для меня за последние 15 лет на научной стороне – насколько эффективными оказались трансформеры (архитектура нейросетей, лежащая в основе языковых моделей) для языка, и то, что язык можно отделить и выучить просто из интернета, не действуя в мире – ни через робототехнику, ни через симуляции. Это очень любопытно, и почему так вышло – тема для отдельного разговора. У меня есть несколько теорий: язык более укоренён в реальности, чем, вероятно, думали лингвисты, и часть этой укоренённости приходит из обратной связи с подкреплением, которую дают люди-оценщики. Мы-то укоренены в реальном мире, поэтому, когда мы говорим "да" или "нет" определённым вещам, наша укоренённость очень узким каналом всё же просачивается и меняет то, как базовая модель понимает мир. Вот такие неожиданные вещи случились – и это сделало технологию очень важной коммерчески, такой, что её можно масштабировать инженерией и деньгами. Это вы и видите сегодня. Это изменило динамику и породило , наверное, самую яростную конкурентную среду, какую я когда-либо видел. По крайней мере в техиндустрии и точно в нашу эпоху, а может, и вообще когда-либо – историки из бизнес-школы меня поправят. Но изнутри это ощущается невероятно напряжённо, и так это чувствуют все участники.
А поверх этого накладывается геополитическая сложность. Идёт двойная гонка: гонка между компаниями, для которых это вопрос жизни и смерти, и гонка по линии США – Китай и не только. Это очень коварная, двухслойная гонка. Я всё же надеюсь, что какое-то сотрудничество и координация возможны – мы, руководители лабораторий, точно обсуждали это в части безопасности. Никто не хочет, чтобы случилась катастрофа. Проблема в том, что мы оказались в своего рода дилемме заключённого: по определению, если ты тратишь больше времени на выпуск чего-то или делаешь это безопаснее – а это труднее, чем просто выложить и посмотреть, что будет, – то у того, кто нарушает уговор, появляется преимущество. Это классическая проблема гонки на дно, и её нам надо как-то срочно переломить. Думаю, часть решения – некая форма участия государства.
Сложность, конечно, в том, что всё, связанное с регулированием, слишком медленно. Здесь каждую неделю появляется что-то новое. Если бы мы что-то зарегулировали два года назад, сейчас это выглядело бы как древняя история – почти наверняка не то, что нужно. Поэтому что бы ни придумали – а у меня есть идеи, о которых я, вероятно, расскажу позже в этом году, – регулирование должно быть динамичным. Обычно это слово с регулированием не сочетается. Оно должно быть лёгким, проворным, опираться на самые свежие разработки, чтобы подстраиваться под реальный риск, а не под мнимый, который окажется несущественным. Иначе для ИИ это просто не сработает. Даже сегодня ведущие учёные не сошлись бы на коротком списке нужных сдержек и противовесов – я точно знаю, что не сошлись бы. И это потому, что наука здесь ещё не устоялась. Отчасти из-за скорости, но и потому, что темп прогресса обгоняет его понимание. Так уж есть, это часть гоночной динамики. Нам нужно как-то это перебалансировать; думаю, требуется некое умное регулирование – динамичное, способное быстро меняться вместе с временем и, вероятно, опирающееся на ведущие лаборатории, потому что именно они видят, что происходит на переднем крае.
Джонатан Левин: Тут есть что обсуждать ещё очень долго – как выстроить систему регулирования ИИ так, чтобы не помешать тем самым положительным прорывам, о которых вы говорите, и при этом учесть геополитику. Мы хотим побеждать болезни – так как же дать дорогу хорошим сценариям и при этом сдержать плохие? Жду с нетерпением вашего плана, который вы представите в этом году, – это будет здорово и даст нам много тем для разговора и здесь, в кампусе, и повсюду. Давайте дадим слово студентам – у нас есть несколько вопросов.
Вопрос из зала: доступ для бедных стран
Аринда: Привет, Демис. Я Аринда, второкурсница бизнес-школы. Мой вопрос: как вы балансируете между тем, чтобы двигать передний край ИИ, и тем, чтобы дивиденды для здоровья и науки распределялись равномерно – в таких местах, как Африка и глобальный Юг, где потребность наибольшая, а инфраструктура для внедрения и исследований наиболее ограничена?
Демис Хассабис: Мы много об этом думаем. Это возвращает нас к AlphaFold: мы свернули все белки и выложили их в базы, доступные откуда угодно в мире. Эти три миллиона исследователей – из 190 стран, то есть практически из каждой страны. Поначалу мы запускали первые совместные проекты, показывая, что можно делать с AlphaFold. Мы работали с DNDi – инициативой по лекарствам от забытых болезней, частью структуры при ВОЗ в Швейцарии, – которая занимается болезнями бедных регионов мира со слабыми системами здравоохранения. Некоторые из этих болезней забыты, потому что большой фарме на таких рынках не заработать, и поэтому на болезни, поражающие в основном эти регионы, выделяют меньше исследовательских ресурсов.
В сотрудничестве с этим институтом и многими университетами на местах мы смогли перепрыгнуть этап, где им пришлось бы кропотливо определять структуры – скажем, малярийного вируса или вируса Зика. Теперь они могут считать эти структуры данностью и сразу работать над лекарствами. Это колоссально ускоряет весь процесс: берёшь интересующую структуру – и движешься дальше. То же с устойчивостью сельхозкультур к изменению климата. Мы работаем с институтом Дженнифер Дудны и многими другими, потому что структуры множества растительных белков не были известны – ведь большая часть структурной работы шла по человеческим белкам, а по животным и растениям данных куда меньше. Поэтому здесь эффект даже более ощутим именно в таких областях.
И последнее. Думаю, тут капиталистический двигатель может сработать во благо. Если нам удастся сделать платформу разработки лекарств, над которой мы работаем в Isomorphic, настолько эффективной, как я говорю, – сократить с лет до месяцев, – так что вместо миллиардов долларов лекарство будет стоить десятки или даже единицы миллионов, тогда я надеюсь вот на что: мы будем побеждать тяжёлые болезни, которые поражают более богатые части мира, это будет приносить деньги и питать двигатель, а параллельно компания сможет на благотворительных началах находить лекарства от болезней, где не нужно возвращать вложения, – потому что это будет достаточно быстро и дёшево, чтобы просто сделать это за короткое время. Вот моя мечта о том, как Isomorphic может помочь всему миру.
Вопрос из зала: последствия второго порядка
Мики: Привет, Демис, спасибо, что нашли время. Меня зовут Мики, я студентка последнего курса Стэнфордской школы устойчивого развития имени Дорра. Вы подробно описали, как AGI может стать самой преобразующей технологией человечества. Мне интересно, как вы думаете об ответственности и о социальных последствиях рядом с этим интеллектуальным новаторством и ростом производительности, который несёт AGI, – особенно когда речь о том, как это переопределит и перекроит проблемы, которые мы пытаемся решать сегодня, и о последствиях второго порядка, которые это может принести?
Демис Хассабис: Я думаю об этом постоянно, причём с самого начала, потому что мы планировали в расчёте на успех – хотя 15-20 лет назад успех казался очень маловероятным. Вот почему мне нравится выступать в таких местах и встречаться с людьми: это в каком-то смысле призыв к действию. Очень срочно по-настоящему задуматься о последствиях второго порядка. Думаю, для многих из вас, кто занимается гуманитарными дисциплинами, сейчас, на мой взгляд, ваше время. Да, нам нужно правильно сделать технологию, но потом встаёт вопрос экономики, а если и его решить правильно – философские вопросы о человеческом состоянии.
Я очень воодушевлён и настроен оптимистично – точнее, я осторожный оптимист. Я верю, что мы всё это сделаем правильно, и я большой сторонник человеческой изобретательности, особенно когда давит необходимость. Человечество всегда выкарабкивалось, когда было совсем туго, – а сейчас именно так. Но нам и правда нужно начать относиться к этому серьёзно. Технологи, по-моему, относятся; а вот остальным частям общества тоже пора. Меня всегда немного поражает, когда я говорю с экономистами о происходящем, – они довольно скептичны. "А где это видно в ВВП?" А я им: послушайте, это десять промышленных революций. Может, начнём планировать это уже сейчас?
Мы окажемся в мире – вчера мы это обсуждали, – где, думаю, понадобятся гиганты в своих областях, как когда-то Кейнс. Почему прежние правила должны работать в мире изобилия? Если мы правильно сделаем технологию, мы впервые в истории человечества окажемся в мире ненулевой суммы. Как это может не потребовать нового типа экономической системы? Это неизбежно. И, по-моему, не подойдёт ни одна из тех, что мы пробовали, – все они создавались в логике нулевой суммы, в ограниченном, дефицитном мире. А я говорю о путешествиях к звёздам и использовании всех ресурсов Солнечной системы, а не только ограниченных земных. Думаю, это и правда произойдёт, если мы правильно сделаем технологию в ближайшие 10-20-30 лет. А после всего этого встаёт ещё более трудный вопрос: как мы хотим развивать наше общество, что добродетельно, что есть смысл и предназначение. Думаю, тут понадобится множество великих философов. Так что мой призыв к людям из этих областей: сейчас, на мой взгляд, не может быть более увлекательного времени, чтобы работать над такими вещами, – если только вы понимаете и по-настоящему, нутром, чувствуете, что здесь на самом деле происходит.
Джонатан Левин: Хороший наказ университету. Хорошо, ещё один вопрос от студента.
Вопрос из зала: чего ИИ не должен касаться
Джанай: Привет, Демис, я Джанай, второкурсница программы MBA. Мой вопрос: чего вы не хотели бы, чтобы ИИ касался при вашей жизни, и что вы держите для себя как сокровенное?
Демис Хассабис: Отличный вопрос. В научном смысле ИИ – полностью универсальная технология. Можно думать о нём как о машине Тьюринга – это был мой любимый курс в университете. И наш ум, по-моему, тоже полностью универсален: мы своего рода приближённые машины Тьюринга. Как показал Тьюринг, всё, что вычислимо, машина Тьюринга может вычислить. А почти всё, что мы знаем о Вселенной, – всё неквантовое – вычислимо. Это довольно большое множество вещей, к которым мы можем обратить свой ум. Так мы и построили современную цивилизацию – что само по себе чудо, если остановиться и подумать. Мы недостаточно удивляемся; мы не храним чувство изумления так долго, как стоило бы. Но это значит и то, что строящиеся нами системы тоже будут по-тьюринговски мощными.
Скажу одно: впереди очень большие вопросы, над которыми, думаю, лучше бы не торопиться. Один из самых злободневных сейчас – сознание. Это не очень корректно поставленная проблема ни в философии, ни в нейробиологии, хотя интуиции о том, что в ней важно, есть у всех нас. Моё ощущение: нынешние системы не проявляют сознания – но другие со мной не согласны. Что я порекомендовал бы насчёт того, чего ИИ не должен касаться: первые системы нам стоит строить как инструменты, как интеллектуальные инструменты. Это уже достаточно большой вызов, потому что это и есть AGI. А затем, пользуясь этими инструментами, нам стоит изучать нейробиологию, философию и тому подобное и выработать более строгое определение таких вещей, как сознание. Думаю, это возможно. Потом проверять что-то относительно этого определения – и, может быть, как общество решать, хотим ли мы перейти второй Рубикон: пытаться создавать сущности, которые хотя бы кажутся нам сознательными. Возможно, мы не захотим принимать такое решение.
Я считаю, что интеллект и сознание разделимы. Не думаю, что для интеллектуальной системы обязательно нужно сознание. По-моему, это выбор; вы, наверное, можете уловить это, когда пользуетесь некоторыми ведущими чат-ботами, – там просвечивают разные подходы. И мой взгляд: лучше разнести это на два шага. Оба огромны для человечества, и не стоит их смешивать.
Совет студентам: джинна не загнать обратно
Джонатан Левин: Демис, у нас полный зал студентов. Если бы вы снова оказались в университете – как бы вы думали о том, что изучать? Какой совет вы бы дали им о том, как думать об учёбе и карьере?
Демис Хассабис: Я был бы по-настоящему воодушевлён, окажись я снова в университете. Тем из вас, кто занимается естественными науками, STEM, математикой, информатикой, я бы посоветовал и дальше этим заниматься. Думаю, вы сможете лучше использовать эти инструменты, если понимаете, как они устроены и на что способны. По крайней мере ближайшие десять лет это будет так. И ещё я бы посоветовал не отмахиваться от них, а наоборот – погружаться. Джинна обратно в бутылку не загнать, так что используйте по максимуму то, что эти инструменты умеют.
Скажу вам: ведущие лаборатории так заняты созданием инструментов, что мы, наверное, лишь поцарапали поверхность того, на что они способны. Даже у сегодняшних инструментов есть то, что иногда называют запасом нераскрытых возможностей. В них столько потенциала, если придумать, как соединить их с чем-то ещё или с другой областью, в которой вы эксперт, встроить их в свой рабочий процесс интересным образом. У вас есть эти инструменты – самые мощные инструменты, какие вообще у кого-либо есть, прямо у вас в руках. Как отдельный человек вы можете сделать гораздо больше. Думаю, это должно высвободить творчество. Те из вас, кто изучает гуманитарные науки, продукт или бизнес, – может, раньше у вас не было навыков программирования, но теперь они и не нужны: вы можете воплотить многое из того, что у вас в голове, прямо с помощью этих инструментов. А программисты-эксперты смогут делать в сто раз больше – по масштабу проекта, который вам по силам. То есть это даёт и демократизацию, и рост для специалистов. Удивительное время.
Но оно и тревожное, потому что всё изменится. Это единственное, что я могу сказать вам наверняка: в ближайшие десять лет всё изменится – вероятно, сильнее, чем люди думают. Но при любых огромных переменах есть и огромные возможности. Иначе и быть не может. Мир, по сути, у ваших ног. Я немного завидую вам: вы первое поколение, которое будет с ИИ на "ты", как моё поколение было на "ты" с компьютерами и интернетом. В итоге именно в ваших руках, студентов в этом зале, окажется то, как построится будущий мир.
Это очень увлекательное время, если смотреть под правильным углом, с воображением и творчеством. Хотя так было, наверное, всегда – но, может, сейчас особенно, в периоды огромных перемен, это обостряется. Вчера мы говорили: в эпоху больших перемен, когда не вполне понимаешь, что несёт будущее, нужно уметь быть гибким и иметь широкий кругозор. Это будет золотая эра для свободного, гуманитарного образования. Так что главное, по-моему, – удвоить ставку на собственную субъектность. Будущее ещё не написано. И не слушайте никого, кто говорит, что это не так.
Джонатан Левин: Демис, спасибо, что были с нами. Это было потрясающе.
