Сцилла и Харибда развития ИИ.
Демис Хассабис и Джек Кларк о развилке главных рисков.
Лучший индикатор уровня зрелости ИИ технологий – в чем общество видит их главные риски.
• Во времена младенчества этих технологий общество содрогалось (подобно малышу при громких звуках) от страхов перед злобным Терминатором и хитроумным HAL 9000
• С наступлением детства главной пугалкой (одновременно страшащей и манящей, как нечто за окном для шестилетки) стала техносингулярность.
• Отрочество (в котором область ИИ сейчас находится) ознаменовалось осознанием истинных корней рисков: они не в технологиях, а в людях.
- Кто будет определять вектор развития ИИ?
- Кто станет выгодоприобретателем революционных открытий, сделанных ИИ, что способны кардинально изменить мир?
Ответы на эти 2 вопроса и составляют суть текущего момента в понимании главных рисков развития ИИ. Ибо сегодня существует лишь два варианта ответа на оба вопроса:
A. Киты Бигтеха (одна или несколько мега-корпораций )
B. Правительства (одной или нескольких супердержав)
Такой выбор подобен Сцилле и Харибде. А как пройти между ними – большой вопрос.
Два человека, входящие в число самых информированных экспертов в данном вопросе, - Демис Хассабис и Джек Кларк – бьются как рыба об лед, пытаясь донести свои мысли до человечества.
✔️ Нельзя отдавать сверх-потенциал ИИ в одни руки: и киты Бигтеха, и правительства – одинаково плохи для человечества.
✔️ Сейчас это, к огромному сожалению, именно так: в США ИИ монопольно в руках китов Бигтеха, а в Китае – в руках КПК.
Демис Хассабис хорошо понимает, к каким революционным прорывам подошел DeepMind в кардинально новых направлениях «глубокой науки» (1):
✔️ уже продемонстрированные AlphaFold 2 возможности определения трехмерной структуры белков сулят экономию сотен миллиардов долларов при разработке новых лекарств и революцию в борьбе с пандемиями;
✔️ находящийся в разработке алгоритм удержания плазмы в термоядерных реакторах промышленного масштаба сулит революцию в энергетике, решив задачу управляемого термоядерного синтеза, над которой мир бьется уже 70 лет.
Однако, Хассабис также понимает, что выгодоприобретателем достижений такого уровня не должна стать одна мега-корпорация. И поэтому Хассабис:
• потратил 4 года на секретный проект «Арбуз» - попытка выйти из-под щедрого, но жесткого крыла материнской компании Google/Alphabet, финансирующей и контролирующей DeepMind (увы, но в апреле эти попытки были окончательно придушены «мамой») (2)
• добился предоставления открытого доступа к алгоритму AlphaFold 2 (хотя все не так просто, и алгоритм пока не может быть сильно полезным исследователям без технических знаний, которыми обладает лишь DeepMind);
• поняв, что из-под «мамы» не вывернуться, в июне призвал на форуме Responsible AI Forum к созданию «всемирного института ИИ» под юрисдикцией ООН, чтобы собрать в нем лучших исследователей в этой области (3)
Джек Кларк (совместно с Институтом изучения экзистенциальных рисков ИИ в Кембридже) 31 августа опубликовал свое видение того же вопроса. Препринт WHY AND HOW GOVERNMENTS SHOULD MONITOR AI DEVELOPMENT (4) сфокусирован на ключевой проблеме прохождения между Сциллой и Харибдой:
✔️ Как преодолеть разрыв между ведущей ролью мировых правительств в определении путей развития ИИ и хроническим непониманием правительств текущего состояния и трендов ИИ
Они подобны инженерам, пытающимся с Земли управлять марсоходом в реальном времени при том, что сигнал с камер марсохода идет до Земли 7 мин, и столько же обратно идет управляющий сигнал с Земли.
Итог – «поспешное, неточное и неосведомленное законотворчество».
Как это можно исправить описано на 13 стр.
Источники: 1 2 3 4
#ИИ
https://t.me/theworldisnoteasy