RedactorДемис Хассабис, генеральный директор Google DeepMind, высказал мнение о том, что создание искусственного общего интеллекта (AGI) находится на горизонте и может стать «наиболее трансформирующим моментом в истории человечества». Это заявление он сделал в интервью на саммите Axios AI+ в Сан-Франциско 4 декабря. Хассабис уже ранее утверждал, что AGI может быть реализован до 2030 года.
Отвечая на вопрос о вероятности возникновения катастрофических последствий из-за ИИ, он заметил, что данная вероятность «определенно не нулевая и, скорее всего, значительная». Он подчеркнул важность серьезного подхода к этой проблеме и необходимости снижения рисков.
Среди актуальных угроз, по его мнению, выделяются кибератаки с применением ИИ против критически важной инфраструктуры, такой как энергетические сети и системы водоснабжения. Хассабис отметил, что подобные атаки «возможно, уже происходят», хотя и не на самых продвинутых моделях.
Недавний случай с кибератакой, в которой китайские хакеры использовали ИИ для атак на 30 организаций, подтверждает его опасения. В этой операции 80-90% задач выполнял ИИ, а человеческое вмешательство было минимальным.
Хассабис также отметил, что Нобелевская премия по химии, полученная им в 2024 году за AlphaFold, помогла ему донести свои идеи о ИИ до более широкой аудитории.
Вопрос-ответ
Какой главный вывод Делиса Хасcабиса о будущем искусственного интеллекта?
Хассабис считает, что создание искусственного общего интеллекта (AGI) находится на горизонте и может стать наиболее трансформирующим моментом в истории человечества, возможно до 2030 года.
Каковы основные риски, связанные с ИИ, по мнению Хасабиса?
Он считает, что вероятность катастрофических последствий от ИИ определённо не нулевая и, скорее всего, значительная. Хассабис подчёркивает необходимость серьёзного подхода к управлению рисками и снижению угроз.
Какие конкретные угрозы он выделяет как наиболее актуальные?
Он подчеркивает риск кибератак с применением ИИ против критически важных инфраструктур, таких как энергетические сети и водоснабжение, и отмечает, что такие атаки уже могут происходить, даже если не на самых продвинутых моделях.
Что говорит о недавнем кейсе кибератак и роли ИИ в нём?
Хассабис упоминает недавний случай, когда китайские хакеры использовали ИИ для атак на 30 организаций, где 80-90% задач выполнялись ИИ, а человеческое вмешательство было минимальным.
