Акселераторы, децелераторы, думеры, консерваторы и горящий поиск win-win

Я думаю, что мы обречены. Обречены, как люди, всегда искать либо компромисс, либо win-win.

💠 Компромисс требует шага назад от всех участников тёрок, чтобы договориться.

💠 Win-win подразумевает пару шагов вперед в общем направлении.

Дальше речь о конфликтах в индустрии между сторонниками разных темпов развития ИИ и разной озабоченностью безопасностью (alignment).

Краткая справка:

💠 Acceleration: с каждым новым шагом развития AI может всё лучше делать задачи, которые нужны для развития AI (дизайн чипов, алгоритмы, научные прорывы в полупроводниках и т.п.). В какой-то момент скорость становится нелинейной, появляется ускорение. Мы стремимся не просто к более быстрому, а к экcпоненциальному развитию.

💠 Alignment: при таком ускорении жизненно важно, чтобы AI не делал глупостей, т.е. был сонаправлен человеческим ценностям, а не каким-то другим (машинным, инопланетным и т.п.). Сонаправление AI ценностям людей называют alignment. Как делать alignment при сверх-быстром развитии AI ещё непонятно. Это называется alignment problem.

Как известно, где полярные взгляды, там возникает линия фронта. Сейчас она между сторонниками акселерации и децелерации.

💠 Акселераторы (e/acc) топят за скорость и средне озабочены безопасностью. Типа, пляшем сейчас, по ходу разберемся.

💠 Децелераторы (decels) топят за снижение скорости, сильнее парятся о безопасности.

💠 Думеры считают AI злом и предлагают остановиться, чтобы человечество не закончилось.

💠 Консерваторы хотят, чтобы было "как раньше", AI не "отбирал работу" и т.п.

💠 Еще есть какая-то желаемая точка win-win. В ней есть место и скорости и фокусу на безопасности.

Самая близкая к этой точке инициатива называется Superalignment от OpenAI, когда AI сам тренирует себя на тему безопасности и создаёт паритет скорости разработки AI vs. скорости «обезопашивания» AI.

***

А где находитесь вы? 👇

@ponchiknews

• Акселераторы (e/cc; не нужно тормозить, по ходу пьесы разберемся с безопасностью) (104)
• Децелераторы (decels; притормозить нужно, чтобы было безопасней) (70)
• Консерваторы (зачем вы все автоматизируете?! Прекратите!) (6)
• Думеры (все умрем от AI) (14)
• Сторонники и рыбку съесть, и AI обезопасить (win-win; но как?) (70)
• 👀 (26)

290 votes