Стоит ли бояться ChatGPT5 и прочих AI? Ответ: возможно, но это не так уж важно.

Я смотрю и слушаю довольно много подкастов каждую неделю, и вот один из них меня очень хорошо поразил.

Это разговор Сэма Алтмана (OpenAI, ex-CEO YCombinator) с Лексом Фридманом, известным исследователем AI из MIT и подкастером.

Полная версия разговора тут, но поскольку энтузиасты уже нарезали кусочками оригинал, хочу рассказать через эти клипы, что мне в нем понравилось:

1️⃣ Что такое ChatGPT и как он вообще работает, и что такое Human Reinforcement of Learning (RLHF)? Коротко о том, как все так произошло, итерируется, обучается и контролируется инженерами OpenAI.

▶️youtu.be/YuJyyAhRbgw

2️⃣ Почему перед OpenAI Алтман активно занимался вопросом универсального базового дохода (UBI)? Если коротко, благодаря ИИ будет создано очень много богатства для общества. Важно, как оно будет распределено.

▶️youtu.be/_yfQrtKjtH4

3️⃣ Что такое AGI (Artificial general intelligence) и стоит ли ожидать его скорейшего возникновения? Похоже, что стоит, причем не одного AGI, а сразу нескольких.

▶️youtu.be/ZgN7ZYUxcXM

4️⃣ Имеет ли смысл бояться ИИ? Похоже, что да. Но всё очень зависит от людей, которые будут использовать ИИ для своих целей. Пример: Китай и уйгуры. Как говорится, bullets don’t kill people, people kill people.

▶️youtu.be/NiDlrJt569w

5️⃣ Можно ли что-то сделать с байасом в ИИ? Например, ChatGPT считают очень «woke», то есть толкающим «левую» повестку, толерантность и т.п. А как должно быть? Ответ: любой AI будет иметь байас, более того, по мере обучения он обретает больше байаса тех, кто промптит.

▶️ youtu.be/gIV6X6B6cU4

6️⃣ Создатели ИИ — очень влиятельные люди. Что делать с тем фактом, что нахождение у такой власти разрушает? Ответ: зная об этом, быть внутри структур, которые создают сдержки и противовесы. Например, прикрутить к управлению ИИ демократические процессы.

▶️ youtu.be/8sOe8NjrpuU

7️⃣ Может ли GPT адекватно работать с темами вроде теорий заговора и фейковыми новостями? Да, это делается за счет того, что выдаются разные точки зрения, и благодаря нескольким перспективам, даже теории заговора можно подать разумно.

▶️ youtu.be/KQZb_7kjRuI

8️⃣ Должны ли ИИ вроде ChatGPT цензурироваться? Ограничения есть, но в долгосрочной перспективе OpenAI стремимся их убрать

▶️ youtu.be/RJpd0tgF0fs

9️⃣ Как Алтман думает о конкуренции с тех-гигантами (Гугл, Мета и т.п.)? Очень просто: я не могу ничего с этим сделать, если будет много AGI, это круто, пусть растут и конкурируют

▶️ www.youtu.be.com/Ag9oTnLK4CU

🔟 Почему Илон Маск поливает 💩 OpenAI и ChatGPT? Короткий ответ: имеет радикальные взгляды на развитие индустрии и не стесняется стебать своих (бывших) друзей.

▶️ youtu.be/GKvC-C_uZrM

Сэм Алтман кажется чуваком с очень «продвинутыми» логиками действия. Например, его подход к организации корпоративной культуры (нон-профит с коммерческим субсидарием), как он рассказывает о партнерствах, системах, в которых openAI существует, и про парадоксы, которые ему норм удерживать.

Короче, рекомендую. Очень важный и своевременный разговор. Enjoy 🙌

Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcast #367