ИИ как самое мощное оружие: почему Билл Гейтс заговорил о миллиарде жертв
Главная угроза может исходить не от искусственного интеллекта, решившего уничтожить человечество, а от человека, которому ИИ даст слишком много возможностей.
Сооснователь Microsoft Билл Гейтс сделал одно из самых жёстких заявлений об искусственном интеллекте за последние годы. По его словам, технология уже становится настолько мощной, что потенциально способна помочь запустить цепь событий, которая приведёт к гибели огромного числа людей — вплоть до миллиарда.
«ИИ, безусловно, достаточно мощный, чтобы привести в движение события, которые могут вызвать миллиард смертей», — заявил Гейтс в интервью NBC Meet the Press, которое должно выйти 27 сентября.
Но важна вторая часть его мысли.
Гейтс говорит не столько о фантастическом сценарии, в котором машины внезапно восстают против человечества. Гораздо более реальной угрозой он считает сочетание мощного искусственного интеллекта и людей с плохими намерениями.
По его словам, ещё никогда не существовало оружия, сравнимого по потенциальной силе с такой комбинацией.
ИИ снижает порог для опасных действий
Эту мысль Гейтс развивает уже некоторое время.
Раньше для сложной кибератаки требовались специалисты, инфраструктура, деньги и месяцы работы. Искусственный интеллект постепенно снижает этот порог.
Модели способны помогать искать уязвимости в программном обеспечении, создавать более убедительные фишинговые атаки и автоматизировать часть работы, которая раньше требовала серьёзной технической подготовки.
И проблема здесь в двойном назначении технологии.
Система, которая помогает специалисту найти уязвимость и закрыть её, потенциально может помочь злоумышленнику эту же уязвимость обнаружить и использовать.
Под угрозой оказываются уже не только компьютеры отдельных пользователей.
Гейтс перечисляет больницы, финансовые организации, системы водоснабжения, электросети и государственную инфраструктуру. Чем больше таких систем становится цифровыми, тем выше потенциальная цена успешной атаки.
Самый опасный сценарий — биология
Но кибератаки — только часть проблемы.
Гораздо более серьёзным риском Гейтс считает пересечение искусственного интеллекта и биотехнологий.
ИИ уже используется при поиске новых лекарств, анализе молекул и разработке вакцин. Это одна из областей, где технология способна принести огромную пользу.
Но действует тот же принцип двойного назначения.
Инструмент, который помогает проектировать лекарство, теоретически может облегчить работу и тому, кто пытается создать опасный биологический агент.
Именно поэтому Гейтс отдельно предупреждает о риске биотерроризма: искусственный интеллект может сделать знания и возможности, которые раньше были доступны небольшому числу высококвалифицированных специалистов, значительно доступнее.
В этом и заключается новая проблема.
ИИ не обязательно должен сам захотеть причинить человеку вред. Достаточно, чтобы он радикально увеличил возможности человека, который этого хочет.
Почему саморегулирования недостаточно
Отсюда следует ещё один тезис Гейтса: разработчики ИИ не должны самостоятельно определять все правила безопасности.
В новом интервью он прямо говорит, что одного саморегулирования недостаточно. По его мнению, в систему контроля должны быть вовлечены законодатели и правоохранительные органы, а требования к защитным механизмам и мониторингу должны стать обязательными.
При этом задача сложнее, чем просто запретить опасные модели.
Искусственный интеллект относится к технологиям двойного назначения. Один и тот же алгоритм может искать лекарство и помогать исследовать патоген, находить программную уязвимость и использовать её, обнаруживать дезинформацию и создавать её.
Поэтому провести простую границу между «хорошим» и «плохим» ИИ практически невозможно.
И это уже превращает проблему из технологической в политическую и международную.
В 2025 году Генеральная Ассамблея ООН создала Независимую международную научную панель по искусственному интеллекту, а в 2026 году начался глобальный диалог ООН по управлению ИИ. То есть первые элементы международной инфраструктуры контроля уже появляются.
Но технологии развиваются значительно быстрее международных институтов.
Сам Гейтс недавно предупреждал, что правительства разных стран сильно отстают от темпов развития искусственного интеллекта.
Парадокс новой технологии
Есть и другая сторона этой истории.
Тот же Билл Гейтс остаётся одним из наиболее активных сторонников применения искусственного интеллекта.
Его фонд инвестирует в использование ИИ в здравоохранении, образовании и сельском хозяйстве. В сентябре фонд объявил о миллиардной инициативе, связанной с такими проектами, включая развитие языковых технологий для регионов, которые сегодня плохо представлены в обучающих данных.
Одна и та же технология может ускорить создание вакцины — и снизить барьер для разработки биологического оружия.
Может защитить компьютерную сеть — и помочь её взломать.
Может сделать знания доступнее миллиардам людей — и одновременно дать небольшому числу людей инструменты влияния, которыми раньше обладали только государства и крупные организации.
Именно поэтому разговор об ИИ постепенно меняется.
Несколько лет назад главным вопросом было:
«На что способен искусственный интеллект?»
«Кому мы готовы дать эти способности?»
💡 Link-смысл
Мы привыкли обсуждать опасность искусственного интеллекта так, будто однажды машина должна обрести собственную волю и выступить против человека.
Возможно, более сложный сценарий выглядит иначе. ИИ останется инструментом — но впервые инструментом, который способен одновременно усиливать интеллект, знания и масштаб действий своего владельца.
Тогда главный риск заключается не в появлении «злого ИИ». Он заключается в появлении человека, возможности которого благодаря ИИ стали несоизмеримы с его ответственностью.