t-AGI: как думать о развитии Artificial General Intelligence
Общий искусственный интеллект (AGI) – уровень развития ИИ, при котором он может выполнить любую задачу, на которую способен человек или животное. Это включает производство, policy, экономику, искусство, мораль и этику.
Усредненный прогноз по наступлению AGI — всего 8-10 лет. Многие задачи упираются скорее в вычислительные мощности, чем в принципиальную возможность/невозможность создания AGI.
В этом свете интересна статья на LessWrong: автор предлагает считать, что AGI - это спектр, а не «бинарный» порог, и сравнивает этот спектр с людьми, которые могут решить те или иные задачи за время t.
t-AGI превосходит большинство экспертов в большинстве задач примерно так:
🔴 1-секундный AGI превосходит в тривиальных задачах/вопросах, распознавании объектов и т.п.
🔴 1-минутный AGI — в ответах на вопросы и простых вычислительных/алгоритмических задачах.
🔴 1-часовой AGI — в прохождении всех основных экзаменов, написании блог-постов, выполнении задач большинства офисных работ и т.п.
🔴 1-дневный AGI — в написании эссе и ведении переговоров, создании софта и игр, научных экспериментах и т.п.
🔴 1-месячный — в выполнении среднесрочных планов, написании больших программ (типа ОС), научных открытиях.
🔴 1-годовой — практически во всем…
Есть проекты с горизонтом >1 года, но они все равно могут быть разделены на подпроекты <1 года.
По моим ощущениям, сейчас мы где-то на третьем шаге (1-часовом AGI).
Как будет выглядеть общество, в котором будут 1-годовые AGI, предсказать сложно, есть техно-пессимисты и техно-оптимисты.
Первые, понятно, говорят, что нам всем хана. А вторые пророчат золотой век: люди перестанут работать на тупых работах, а из-за создания AGI огромной доп. ценности можно будет позволить себе что-то вроде универсального базового дохода (UBI) — сперва в развитых странах, а потом и по всему миру.
Если это кажется утопией, то можно посмотреть как человечество справляется с не менее амбициозной задачей устранения голода на планете (c ~25% в 1990х до ~10% сейчас).
На тему «возможно/невозможно» рекомендую посмотреть «Опенгеймера», чтобы оценить, как к возможности расщепления атома относились в 1930х и как после Тринити-теста в 1945м.
А вы как считаете, на какой части t-AGI спектра мы сейчас находимся?
PS: классный разбор вопросов и возможностей AGI в доке от Димы Ханарина