-0.59
КОРОНАВИРУС
Есть в истории с искусственным интеллектом довольно занятный парадокс - Yapolitic. Человек, чья карьера неразрывно связана с распространением компьютерных технологий, теперь предлагает внимательнее смотреть на то, куда именно они нас ведут. Билл Гейтс считает, что с искусственным интеллектом человечество столкнулось с технологией совершенно другого масштаба.
Основатель Microsoft предупреждает: скорость развития ИИ уже опережает готовность общества справляться с возможными последствиями. И речь, по его мнению, идет не о привычных проблемах вроде того, что очередная программа начнет работать с ошибками.
«ИИ представляет собой уникальную технологию, риски которой нельзя сравнивать с последствиями развития персональных компьютеров или интернета. Это очень серьезно», — заявил Гейтс.
Почему он проводит такую границу? Компьютер остается инструментом в руках человека. Интернет тоже не принимает решения самостоятельно — он лишь позволяет людям быстрее обмениваться информацией и выполнять различные задачи. Современные нейросети устроены иначе: они способны анализировать большие объемы данных, создавать код, решать поставленные задачи и последовательно выполнять действия без постоянного участия пользователя.
Именно эта самостоятельность и становится главным источником новых вопросов.
Самая неприятная перспектива — ИИ в руках злоумышленников
Отдельное внимание Гейтс обращает на кибератаки. Технология, которая помогает обычному пользователю или программисту быстрее справляться со сложной работой, может оказаться полезной и для тех, кто собирается использовать ее против чужих систем.
Причем потенциальному злоумышленнику не обязательно самому обладать глубокими техническими знаниями. Если искусственный интеллект берет на себя значительную часть рутинной и сложной работы, порог входа в киберпреступность может снижаться.
Поэтому ждать первой серьезной атаки, чтобы после нее срочно придумывать защиту, Гейтс считает плохой идеей. Меры безопасности, по его мнению, должны развиваться одновременно с самой технологией.
При этом миллиардер не предлагает отказаться от ИИ
Его позиция скорее сводится к другому: развитие должно сопровождаться механизмами, которые позволяют человеку сохранять контроль над происходящим.
Для этого Гейтс предлагает создать международную организацию, специализирующуюся на безопасности искусственного интеллекта. В качестве возможных ориентиров он упоминает международные структуры и договоренности, которые уже существуют в других чувствительных областях — например, в сфере нераспространения ядерного оружия или климатических соглашений.
Идея выглядит особенно актуальной потому, что ИИ давно перестал быть игрушкой для любителей новых технологий. Нейросети постепенно входят в программирование, бизнес, образование, аналитику и множество других сфер. Чем шире становится их применение, тем больше потенциальных последствий приходится учитывать.
Получается своеобразная гонка: разработчики стараются сделать модели умнее, компании хотят получить преимущество перед конкурентами, пользователи ждут новых возможностей, а специалисты по безопасности пытаются успеть разобраться, какие проблемы могут появиться уже после очередного технологического скачка.
И вот здесь предупреждение Гейтса звучит особенно любопытно
Он фактически предлагает не отказываться от движения вперед, а хотя бы иногда смотреть под капот автомобиля, прежде чем продолжать давить на педаль.
Компьютерную революцию человечество пережило. Интернет тоже стал частью повседневности. Но искусственный интеллект способен превратить привычный принцип «человек управляет инструментом» в гораздо более сложную конструкцию.
А если инструмент однажды начнет действовать слишком самостоятельно, инструкция по эксплуатации может оказаться нужнее инструкции по его созданию.
