Бот или Агент: как мы называем AI определяет, как мы к нему относимся
Слова бот и агент часто крутятся в моём поле. Означают они почти одно и то же – некую сущность на основе AI + интерфейс взаимодействия с этим AI. Но есть одно важно отличие, о нём ниже.
1. Боты означают что-то неодушевленное, машина, контрастирующая с человеком. В повседневном языке ботами мы начали называть автоматические программы, которые дают ответы или пишут что-то. Роботы механические все так же остаются роботами, но суть одна: неодушевленная, запрограммированная, автоматическая штука.
2. Агенты — это опять же программы, но более автономные, чем боты. Разницу подсветили в «Матрице»: агент может действовать самостоятельно, “переобуваться” и “видоизменяться”. А самое важное — у агента есть агентность.
3. Агентность в психологии означает, что вместо пассивной позиции («что скажут, то и делаю»), некто занимает активную позицию («я могу повлиять» — на мир, на себя).
4. Если AI = боты, то это довольно «тупенькие» программы: часто ошибаются, несут белиберду, требуют многих попыток до хороших результатов и требуют неустанного контроля. Как будто в будущем они останутся примерно такими же программами + результаты лучше + ошибок меньше.
5. Если AI = агенты, то они пока просто «джуны»: много не знают, часто фачат, но мы понимаем, что со временем и опытом они станут «миддлами», а потом и «сеньорами». При достижении качеств AGI, агенты смогут выполнять и «директорские» роли: смогут дирижировать другими агентами.
6. И по отношению к ботам, и к агентам есть множество настороженности и опасений. Автономные программы, ошибаясь, могут наделать серьезных дел. С другой стороны, стандарты безопасности в индустрии феноменальные: например, на то, чтобы модель «обсчитать» уходит меньше месяца, а на меры по проверке безопасности — ок 6 месяцев (данные по GPT-4) → шансы, что агент накосячит, конечно, есть, но они, на мой взгляд, ниже той ценности, которую они несут.
А как вы относитесь к AI? Что это для вас?
