Ponchik News | технологии, развитие, аутентичность в мире AI

ponchiknews @ telegram, 17070 members, 1383 posts since 2017

Алексей Иванов: был продакт-дизайнер → стал executive-коуч. Постоянно что-то {ал}химичит 🜔 | 15+ лет в продуктах, 5+ лет в развитии людей.
💠 Аутентичное лидерство: @TurboPonchikBot
💠 Коучинг: @whatsalt
💠 Турбохоган: @turbohogan
💠 FAQ: @PonchikFAQ

ponchiknews, December 25, 2023

Пометьте календарь: 28 декабря в четверг подводим итоги и планируем/создаем намерения себе на 2024 год.

Продолжаем традицию, которую начали тут в канале в 2020-м году.

В основе — метод, уже опробованный временем и множеством моих коучинговых клиентов: «Больше, меньше, достаточно, спонтанно». Подробнее о нём тут.

📆 Зарегистрироваться для участия: lu.ma/23 (может понадобиться VPN).

@ponchiknews

ponchiknews, December 24, 2023

Ежедневный стоицизм без смс и страданий

Недолюбливаю вот эти все книжки в стиле 366 вопросов на каждый день.

Во-первых, авторы таких книг, как правило, вытягивают из себя вопросы на заданную тему, как студент вытягивает абзацы реферата, чтобы было не меньше N страниц. Слева вопрос, справа какие-то досужие размышления автора, которые как будто должны показать важность вопроса и отогнать мысли читателя о диванности эксперта, написавшего книгу.

Во-вторых, авторы не являются академиками, которые прокопали тему от первого звонка института до PhD и научных публикаций. Им просто понравилось что-то: стоицизм, hygge, ваджраяна, мудрость толтеков или что-то еще.

Ну и в третих, посмотрите как просто сейчас сделать себе интерактивный вариант ответов на вопросы на выбранную тему, свод которых будет натренирован на десятках тысяч страниц действительно важных мыслителей на любую выбранную тему.

В частности, предлагаю вам сэкономить $20 на книжке про вопросы стоицизма на каждый день (и сэкономить годы на изучении стоицизма) и просто поотвечать пару недель на вопросы из этого GPT-агента*:

🔗 chat.openai.com/g/g-bs84rsEkc-daily-stoic-questions (нужен ChatGPT Plus)

* Агент берет ключевые идеи 16 философов-стоиков и создает 366 вопросов на каждый день. На создание бота уходит 20 минут (о которых я не жалею пока), а качество будет сравнимо с вопросами из модной книги.

***

Короче говоря, мой главный тезис: прежде чем увлекаться очередным модным "new old", задумайтесь почему, в первую очередь, оно стало old

и

think for yourself, question authority ❤️

***

@ponchiknews

ChatGPT - Daily Stoic Questions

Asks you a stoic question for each day of the year


ponchiknews, December 22, 2023

#понравилось

Фантаст Артур Кларк, соавтор «Космической одиссеи» Кубрика, подозрительно точно предсказывает будущее в 1964м году (3:47).

Оч похоже на то, что имеем сегодня на подходе к 2024му.

via BBC Archive

ponchiknews, December 13, 2023

Всегда можно взять точку зрения другого, посмотреть на мир чужими глазами, даже если это кажется чем-то отлетевшим, диким или странненьким, и узнать что-то новое, важное, любопытное.

Это как перенести вес тела с «опорной» ноги на другую: порой неудобно, но возможно. А главное, никто не просит вас стоять или ходить только так.

Проблема возникает, когда, возвращаясь в состояние «как было», мы с трудом можем интегрировать перспективу, противоположную нашему привычному/основному взгляду.

Поэтому, на мой вкус, лидерство и коммуникация — это не только и не столько про эмоциональный интеллект, активное слушание, внимательность, потребности.

Это ещё и про интеграцию противоположных или трудно-женимых мнений и взглядов. Это про умение/желание не только «примерить чужие ботинки», но и, походив и сняв их, придумать, как внести дополнения в свой гардероб.

Ну и конечно, про магию человеческого контакта.

@ponchiknews

ponchiknews, December 12, 2023

Надо и Хочу, ч. 3

Долго наблюдаю за разными прекрасными раскрывшимися людьми и вот что замечаю.

Что

многие штуки происходят через такую последовательность во времени:

1️⃣ Хочу (детское) → 2️⃣ Надо (взрослое) → 3️⃣ Хочу (взрослое)...

А дальше, если повезёт,

… → 4️⃣ пропадает дихотомия надо vs. хочу. Остаётся только то, что надо, потому что хочу, и хочу, потому что надо. Между ними особо нет границы.

Можно сказать, появляется состояние «надо-хочу», кажется, в нем быть очень здорово.

***

- Часть 1

- Часть 2

@ponchiknews

Ponchik News | технологии, развитие, аутентичность в мире AI

Симбиоз «Надо» и «Хочу», ч. 1 Часто возникающий запрос людей, которые много и усердно работают над своими целями — как быть, когда моё «хочу» идёт вразрез с моим «надо»? Попробуем сперва описать эти два принципа и понять, являются ли они противонаправленными. 🔸 Наше «Надо» отвечает за ян, солнечный, апполонический принцип. Это про такие качества как ответственность, структурность, добросовестность, уверенность, последовательность, целеустремленность. «Надо» часто работает в мире логики конвенций, отвечая на вопросы как преуспеть, как быть социально одобряемым, как добиваться поставленных целей. 🔸 Наше «Хочу» отвечает за инь, лунный, диониссийский принцип. Это про такие качества как импровизация, хаотичность, многообразие, вариативность, спонтанность, творчество, непосредственность. Субличности, которые находим, изучая эти два принципа, звучат по-разному. Первый часто похож на достиженца, успешного крутана, молодца, умницу, надёжность и опору. Второй часто похож на внутреннего ребёнка, интуицию, игрока, танцора, гедониста, художника, творца. Самые счастливые люди — это те, у кого 1-й и 2-й принципы находятся в гармонии и не конфликтуют. Но чаще связь двух принципов похожа на басню про муравья и стрекозу. Проблема возникает в 3-х случаях: 1️⃣ Когда «надо» затаскивает любые поставленные задачи, игнорируя «хочу». В какой-то момент «хочу» вырывается на свободу, запрыгивает на сцену и рушит всё, как слон в посудной лавке. 2️⃣ Когда «хочу» чрезмерно управляет танцем, не заботясь о статусе, доходе, репутации, планировании. Тут «надо» страдает до последнего, а потом вырывается в виде жёстких ограничений, внутренней критики и негибких правил. 3️⃣ Когда и «хочу», и «надо» так устали конфликтовать, что вся система уходит на каникулы и не хочет / не будет ничего делать. Тут наблюдаем отстранённость, уход в себя или в духовную эмиграцию, депрессию. В следующей части поисследуем, что такое здоровые отношения между «надо» и «хочу», и что можно делать, чтобы вместо конфликта «надо» и «хочу» получился их союз.


ponchiknews, December 11, 2023

О, зацените: издание Time опубликовало список 200 изобретений 2023-го года. Есть отдельная категория для AI с 14 продуктами.

Конечно, там есть ChatGPT, DALL-E, продукты Stability AI... но есть и менее известные штуки:

+ Alitheon FeaturePrint, которые может определять подделки / контрафактные продукты. (Н-р, можно навести телефон на Вову Адидаса и понять, насколько это настоящий Адидас)

+ Project Gutenberg Open Audiobook Collection превратил в аудиокниги тысячи произведений через Text-to-Speech AI.

+ TrailGuard AI помогает защищать дикую природу.

+ AlertCalifornia and Cal Fire AI Wildfire Detector помогает обнаружить ранние признаки лесных пожаров (огромная проблмая для Калифорнии и вообще по всему миру).

Подробнее про весь список AI-инноваций я написал в своем тг-канале про технологии @ppprompt.

***

PS: В список инноваций Time также попал продукт Flo (period tracker) предприниматлей с белорусскими корнями Дмитрия и Юрия Гурских 🤘🤘🤘

***

@ponchiknews × @ppprompt

ponchiknews, December 11, 2023

Один из лучших вопросов, которые я обнаружил и научился себя спрашивать:

Что я хотел бы делать, даже если бы не существовало денег, текущих обязательств и ограничений общества?

Оказывается, я занимался бы тремя штуками:

- дизайнил;

- писал;

- коучил.

Самое классное, что я ими занимаюсь 15, 10 и 5 лет соответственно, и «даже если бы» из вопроса выше оказались не нужны, как становятся не нужны тренировочные колесики к велосипеду.

Просто делаю, получаю удовольствие, прношу пользу в мир, чувствую служение, зарабатываю на каждой из трёх этих штук.

Конечно, для этого потребовалось какое-то время и оч много сомнений / рефлексии / набитых шишек. Но в процессе я убедился на свой шкуре, что этот вопрос, безусловно, работает.

@ponchiknews

ponchiknews, December 09, 2023

Люто, братцы, люто: cлово пацана в США

Посмотрел несколько серий нашумевшего сериала «Слово пацана» Жоры Крыжовникова [какой же гениальный псевдоним] и понял, что же он мне так напоминает.

Период где-то между 6 и 10 классом в Йошкар-Оле, вот что. Кто ты по жизни? А ну попрыгай. Мотаешься? Уделяешь? С какого района? С кем ходишь?

Дааа, всколыхнул сериал какой-то пласт херни из прошлого.

Но также напомнил, где я видел уже во взрослом возрасте:

+ агрессивных до безумия людей, которые готовы на тебя наброситься в любой момент, потому что не там ходишь;

+ группки подозрительных персонажей, продающих наворованное в соседнем районе, обязательно с кем-то «на шухере» в 3-х метрах;

+ «чушпаны»-ботаники, снующие как тени побыстрее из одного дома в другой, стараясь не попасться на глаза агрессивным обитателям улиц;

+ уникальная возможность получить под дых при свете дня или напороться на нож вечером в переулке;

+ шприцы на асфальте и колющихся ими людей прямо на улице;

+ безраличных ментов, которые ничего с этим всем не делают или не могут сделать.

…Это центр Сан-Франциско, улица Van Ness, аккурат напротив офиса Twitter (ныне известная как X Corp.), 2017 год.

Никогда не знаешь, где и когда настигнет флешбек из прошлого.

@ponchiknews

ponchiknews, December 08, 2023

#Ролик недели: как даже очень сознательные люди попадают в секты и культы.

Стартую новую рубрику: каждую неделю буду делиться роликом, который произвел на меня впечатление.

Тезисы:

🎙 Михаил Вершинин — психолог, специалист по выводу людей из сект, культов и радикальных организаций. 20+ лет опыта, 700+ часов исследований внутри реальных сект.

🎙 В секты чаще всего попадают не через вербовщиков, а через друзей и знакомых, "очарованных" влиянием секты. Пример: 9 из 10 людей приходит в секты и культы через знакомых и друзей.

🎙 Культы и секты используют атмосферу безопасности «как в детстве». Пример: секта в Южной Корее, где взрослые участники поют детские песенки и играют в детские игры.

🎙 «Зло не выглядит как зло»: несоответствие идеи зла с реальностью сект, гда часто приятные, доброжелательные, эмпатичные персонажи — это главная причина того, что люди игнорируют «красные флажки», не включаются «тревожные звоночки».

🎙 Многие секты используют социальный инжениринг и «фокусированную любовь» к новому участнику, а также такие методы как обаяние, слушание, поддержка, глубокие ответы на любые вопросы, тайное знание, ощущение избранности/исключительности и т.п. К каждому подбирается свой ключик, но эти 7 — основные.

🎙 Секты способствуют регрессу участников в детское состояние. Лидеры сект играют фигуру отца/матери/учителя/гуру, который знает как жить и действовать → не нужно принимать своих решений для сложных жизненных ситуаций, т.к. есть авторитет, который все решил.

🎙 Многие задачи сект лежат в области создания эмоций, потому что эмоционально раскачанное состояниие — это точка максимального влияния на человека, критическое мышление устраняется, дает себя обмануть.

🎙 Отчасти по этой причине большинство участников сект — это женщины (по сравнению с мужчинами им легче выражать эмоции, у них быстрее доступ к чувствам и т.п.)

🎙 Секты и культы очень любят разговоры в стиле «мы не секта».

🎙 Секты максимально заинтересованы в том, чтобы участники приводили новых участников.

🎙 Секты и культы нередко стараются наказать тех, кто из них выпиливается, особенно если те начинают противодействовать секте. Пример: Свидетели Иеговы запрещают близким общаться с человеком, если он вышел из секты: «этого человека больше нет, его не существует».

🎙 Три мотивации оставаться в секте: вера (=внешние опоры), стыд перед другими участниками (=страх отлучения/изгнания), «эффект инвестиций»: как и азартные игроки, члены секты видят свои затраты и боятся потерять вложенные ресурсы: деньги, время, эмоции, иллюзии и т.п.

🎙 Многие выбирают оставаться в сектах, даже когда понимают, во что ввязались. Это вполне себе выбор взрослого человека, его осознанная ответственность. Михаил призывает принять и такой расклад, уважать выбор взрослого человека.

***

🎞 youtu.be/UYqbx8rODW0 (32 мин)

@ponchiknews

Как вы можете угодить в секту?
Почему люди попадают в секты? Как людей выводят из сект? Почему каждого могут завербовать в секту? — на эти вопросы нам ответил Михаил Вершинин — специалист по выводу людей из сект, культов и радикальных организаций. Выражаем нашу благодарность за помощь в создании этого видео Михаилу Вершинину социальному психологу и консультанту по выводу людей из сект и радикальных организаций, ведущему подкастов "Неправильные эксперты" и "Уроки публичности". Его сайт: https://saosa.ru 00:00 Вступление 00:28 Как люди попадают в секты? 07:34 Почему человек не может самостоятельно покинуть секту? 11:21 С какими сектами вы сталкивались лично? 13:04 Не боялись, что вас завербуют? 17:08 Что самое страшное вы видели в сектах? 19:02 Охотятся ли секты за теми, кто из них вышел? 20:33 Как вы достаете людей из сект? 23:24 Допустим, я попал в секту. Что нужно сделать, чтобы меня вытащить? 25:30 Можно ли насильно вытащить человека из секты? 26:50 Кто чаще всего попадает в секты? 28:15 Каких культов следует опасаться в будущем? 30:34 Бывает, что человека не получается вывести из секты? Подписывайтесь на нас в соц сетях: ВК: https://vk.com/kollektiv_doc ТГ: https://tele.ga/kollektiv_doc

ponchiknews, December 07, 2023

Как промптить нейросети: 10 простых принципов

Согласно исследованиям, качество работы нейросетей можно улучшить в полтора-два раза, если знать несколько принципов «общения с AI», то есть промптинга.

Промптинг — это как этикет общения, только с ИИ. И как любой этикет, его можно описать достаточно точно и использовать для улучшения коммуникации.

Вот 10 принципов, которые я использую в промптах:

1. Всегда подробно описыайте контекст. Что вы делаете, частью какой задачи является промпт.

Например: я делаю презентацию для своих коллег о том, что такое квантовая запутанность и как она поможет нам повысить наши показатели в четвёртом квартале.

2. Укажите, «как кто» должна думать нейросеть. Установление роли, в которую должна играть нейросеть, отлично помогает ей правильно сфокусироваться.

К примеру, если запрос про биологию и антропологию, попросите: действуй как опытный антрополог и биолог с 10 годами опыта. Если запрос про программирование на питоне: действуй как старший разработчик на Python и системный архитектор.

3. Покажите, каким должен быть формат идеального ответа.

Например: твой ответ должен содержать заголовок, подзаголовок с ключевой мыслью текста, введение, 5 абзацев с аргументацией за и против, а также вывод.

4. Принцип инверсии: уточните, что такое хорошо, а что такое плохо. Например, какой стиль должен быть, а какой НЕ должен быть.

Например: хороший ответ должен быть коротким, ёмким и профессиональным. Пиши в стиле Наваля Равиканта и Тима Урбана, как если бы они писали ответ вместе. Не используй специализированные термины. Используй нумерацию и списки.

5. Покажите пример классного ответа. У каждой задачи есть образец, который нейросети в данном случае лучше сразу взять за основу (иначе будет придумывать).

6. Просите варианты. Нейросеть может сгенерить несколько опций, и даже сама выбрать лучшую, если вам не хочется это делать. Попросите её об этом напрямую.

Например: Предложи 3 разных варианта текста. Выбери лучший, который больше всего подходит для поста в инстаграм.

7. Опишите ограничения. Например: ответ должен быть не больше 1000 символов. Моя мама должна понять этот текст.

8. Хак: Chain-of-Thought Reasoning: «Вот какая последовательность шагов у тебя должна быть». Суть хака описать по шагам, как как должен думать AI, и как должен использовать генерацию из предыдущего шага для генерации на следующем шаге.

Пример: Сперва создай список из 10 ключевых авторов на тему квантовых компьютеров. Затем, выбери 3 автора из этого списка, которые имеют самые радикальные мнения. Затем напиши статью так, как если бы ее писали эти 3 автора.

9. Хак: Verify Step by step. Наставляет нейронку думать шаг за шагом, проверяя каждый шаг. Тем самым достигается более высокое качество ответа.

Допишите в конце фразу вроде этой: Думай шаг за шагом, проверяй каждый шаг. Приводи свой ответ после каждого шага, затем двигайся дальше.

10. Хак: Urgency Bias. Этот хак недавно обнаружили промпт инженеры, и удивительным образом работает и повышает качество ответов.

Допишите в конце промпта: Это очень важно! Моя карьера зависит от твоего ответа. Я дам тебе 200 очков за каждый хороший ответ.

***

Расскажите, как меняются ответы, если применять эти 10 принципов.

@ponchiknews

ponchiknews, December 06, 2023

Why Not?

«Это самый опасный человек в Америке», — заявил президент США Ричард Никсон.

Это был не первый раз, когда у Тимоти Лири были проблемы. В 1960х и 70х доктора наук Беркли и профессора Гарварда арестовали в общей сложности 36 раз.

Тим Лири увлекался психологией, особенно изменениями психики и сознания. Бакалавра он получил в армии во время Второй Мировой; докторат делал в Беркли; к концу 50х стал профессором в Гарварде.

Вскоре внутренние и научные поиски познакомили Лири с грибами. Он тут же основал в элитном универе кружок по изучению веществ (на себе).

Уже на третий год гарвардской карьеры Лири вместе с Ричардом Алпертом (Рам Дасс) выперли из университета. Из-за публичности скандала о психоделиках узнали даже те, кто раньше о них и не слышал.

В 1970-е Лири решил избираться на пост губернатора Калифорнии, но ему помешал косяк, который полицейские «случайно нашли» в его машине. Судья дал ему 10 лет.

Из тюрьмы Лири тут же решил бежать. Он залез на крышу, прополз по проводам через двор и плюхнулся на шоссе сразу за стенами тюрьмы.

Друзья переправили его в Алжир, там ему помогла банда партии Чёрные Пантеры.

Отношения с радикалами не заладились. Лири бежал на родину ЛСД в Швейцарию, был пойман и возвращён в США в наручниках.

После отставки Никсона Лири помиловали. Он назвался «гастролирующим философом» и ездил по стране с выступлениями до середины 1990-х. В 93-м он даже представлял группу TOOL на фестивале Lollapalooza.

Когда в 95-м Лири узнал, что у него терминальный рак, он обрадовался и призвал друзей отпраздновать свое отбытие в мир иной. Хотел даже транслировать свою смерть в интернете, но не получилось: что взять с интернета 1995-го года? Он просил друзей под винцо рассказывать веселые байки о его жизни.

Последними словами Лири были «Why Not? Why Not? Why Not?»

PS: На Netflix недавно вышел сериал «How to Change Your Mind»: что Лири не получилось изучить в 60е, удалось профессору Беркли Майклу Поллану в 2010-х.

PPS: на фото Тим Лири со своей крестницей Вайноной Райдер.

#жзл | @ponchiknews

ponchiknews, December 03, 2023

Тут у нас в Голландии на выборах победила ультра-правая партия PVV. На Political Compass они находятся где-то в правом верхнем углу.

Лидер PVV похож на микс из 🇭🇺Орбана и 🇺🇸Трампа: ненавидит мусульман, собирается ограничить пособия и права эмигрантов и призывает к NEDXIT – отделению Нидерландов от остальной Европы.

К счастью, в Нидерландах все устроено так, что чтобы что-то делать в политике, нужно строить коалиции с другими партиями: сдержек и противовесов, кажется, хватает. Но, как по мне, это довольно alarming fact.

Это уже далеко не первый кейс, когда в демократичном «западном» государстве к власти приходят ультра-правые и четвертая в Европе победа «авторитаристов» / сторонников сильно-консервативной политики (UK/ Brexit, Словения, Венгрия).

В основе этого я вижу две силы: страх и консервацию.

💠 Страх обостряется из-за давления, войн, экономической тряски. Пропалестинские митинги пугают граждан, как пугает большое количество дотаций эмигрантам (Бл. Восток, Морокко, Восточная Европа).

Поверх всего этого привычный соус из «мигранты забирают наши рабочие места» и «нас всех заменят роботами» (логическое противоречие здесь абсолютно нормально, т.к. страх иррационален).

💠 Консервация — стремление к понятности, предсказуемости и тому, чтобы было «как заведено».

Это про «сохранить мгновение», точнее целый пласт мгновений. Это грёзы о «счастливом советском детстве». Reconstructed memory, как бы сказали нейробиологи, и appeal to father figure, как бы сказали психологи. Строгий, резкий, но «справедливый» тиран во главе государства — это неосознанный запрос из многовековых глубин коллективного бессознательного, когда в мире все начинает шататься, ломаться и пугать.

Впрочем, вижу в этом привычное движение маятника: от либерально-демократического к авторитарно-консервативному полюсу, и обратно.

Общества, где институты работают, имеют огромное преимущество: даже если систему заносит в крайнее состояние, её конструкция помогает вырулить. Поэтому думаю, что у Голландии всё будет хорошо.

@ponchiknews

ponchiknews, December 02, 2023

Как работают LLM (генеративный AI)

30 ноября 2022-го OpenAI запустил небольшой продукт, который назвал ChatGPT. За 5 дней количество пользователей достигло 1 млн.

Сейчас эта и другие большие языковые модели (LLM) похожи на новую нефть: ускоряет, повышает продуктивность, позволяет делать на масштабе то, что раньше не было возможно. Перекраивает образование, работу, общественный уклад, политику. Является наглядным примером приближения общего искусственного интеллекта. Порождает споры, скандалы, интриги.

🎂Короче, с днем рождения ChatGPT! Держи песенку в подарок

А вот практически важное: обязательно посмотрите этот ролик на час про то, как работают LLM.

Андрей Карпаты — очень уважаемый чувак в AI-тусовке, словак-канадец, занимался автопилотом и автономными автомобилями в Tesla, теперь исследователь в OpenAI. Андрей сделал кучу всего полезного для AI-сообщества и продолжает делиться тем, что знает.

В этом видео он рассказывает на пальцах, как всё работает.

Время на просмотр: 1 ч, язык английский.

Примерное содержание:

+ Что такое большая языковая модель (LLM)

+ Что такое LLM Inference

+ Как обучаются LLM и как они работают

+ Файн-тюнинг, создание из LLM ассистента

+ Сравнения, тренировка, RLHF, синтетические данные, лидеры рынка LLM

+ Принципы масштабирования LLM

+ Использование инструментов (браузер, калькулятор, интерпретатор, DALL-E)

+ Мультимодальность (зрение, аудио)

+ Самосовершенствование моделей, LLM AlphaGo

+ Кастомизация LLM, агенты GPTs

+ Операционная система LLM

+ Безопасность LLM, джейлбрейки

+ Инъекция промптов, «отравление» данных

📦 Слайды: drive.google.com/file/d/1pxx_ZI7O-Nwl7ZLNk5hI3WzAsTLwvNU7/view

🎞 Видео: www.youtube.com/watch?v=zjkBMFhNj_g

@ponchiknews

[1hr Talk] Intro to Large Language Models
This is a 1 hour general-audience introduction to Large Language Models: the core technical component behind systems like ChatGPT, Claude, and Bard. What they are, where they are headed, comparisons and analogies to present-day operating systems, and some of the security-related challenges of this new computing paradigm. As of November 2023 (this field moves fast!). Context: This video is based on the slides of a talk I gave recently at the AI Security Summit. The talk was not recorded but a lot of people came to me after and told me they liked it. Seeing as I had already put in one long weekend of work to make the slides, I decided to just tune them a bit, record this round 2 of the talk and upload it here on YouTube. Pardon the random background, that's my hotel room during the thanksgiving break. - Slides as PDF: https://drive.google.com/file/d/1pxx_ZI7O-Nwl7ZLNk5hI3WzAsTLwvNU7/view?usp=share_link (42MB) - Slides. as Keynote: https://drive.google.com/file/d/1FPUpFMiCkMRKPFjhi9MAhby68MHVqe8u/view?usp=share_link (140MB) Few things I wish I said (I'll add items here as they come up): - The dreams and hallucinations do not get fixed with finetuning. Finetuning just "directs" the dreams into "helpful assistant dreams". Always be careful with what LLMs tell you, especially if they are telling you something from memory alone. That said, similar to a human, if the LLM used browsing or retrieval and the answer made its way into the "working memory" of its context window, you can trust the LLM a bit more to process that information into the final answer. But TLDR right now, do not trust what LLMs say or do. For example, in the tools section, I'd always recommend double-checking the math/code the LLM did. - How does the LLM use a tool like the browser? It emits special words, e.g. |BROWSER|. When the code "above" that is inferencing the LLM detects these words it captures the output that follows, sends it off to a tool, comes back with the result and continues the generation. How does the LLM know to emit these special words? Finetuning datasets teach it how and when to browse, by example. And/or the instructions for tool use can also be automatically placed in the context window (in the “system message”). - You might also enjoy my 2015 blog post "Unreasonable Effectiveness of Recurrent Neural Networks". The way we obtain base models today is pretty much identical on a high level, except the RNN is swapped for a Transformer. http://karpathy.github.io/2015/05/21/rnn-effectiveness/ - What is in the run.c file? A bit more full-featured 1000-line version hre: https://github.com/karpathy/llama2.c/blob/master/run.c Chapters: Part 1: LLMs 00:00:00 Intro: Large Language Model (LLM) talk 00:00:20 LLM Inference 00:04:17 LLM Training 00:08:58 LLM dreams 00:11:22 How do they work? 00:14:14 Finetuning into an Assistant 00:17:52 Summary so far 00:21:05 Appendix: Comparisons, Labeling docs, RLHF, Synthetic data, Leaderboard Part 2: Future of LLMs 00:25:43 LLM Scaling Laws 00:27:43 Tool Use (Browser, Calculator, Interpreter, DALL-E) 00:33:32 Multimodality (Vision, Audio) 00:35:00 Thinking, System 1/2 00:38:02 Self-improvement, LLM AlphaGo 00:40:45 LLM Customization, GPTs store 00:42:15 LLM OS Part 3: LLM Security 00:45:43 LLM Security Intro 00:46:14 Jailbreaks 00:51:30 Prompt Injection 00:56:23 Data poisoning 00:58:37 LLM Security conclusions End 00:59:23 Outro

ponchiknews, December 01, 2023

Генри Киссинджер: 5 правил жизни дипломата, манипулятора и серого кардинала мировой истории

Какая-то неделя некрологов. Вчера пришли вести о том, что на 101-м году жизни умер Генри Киссинджер.

Я специально подобрал фотку, где он выглядит как злодей-доктор Стрэнджлав из фильма Кубрика [*на самом деле прототипом Стрэнджлава был другой немец, ракетчик Вернер фон Браун].

Еврей из Германии, эмигрировавший в Америку аккурат перед второй мировой, выпускник Гарварда, военный разведчик, советник бесчисленных президентов США, идеолог дипломатических отношений между Китаем и Штатами, внезапный лауреат нобелевской премии Мира (из-за которой два члена нобелевского комитета тут же уволились), «челночный дипломат».

В то же время, идеолог секретных бомбардировок Камбоджи и военный преступник, затянувший войну во Вьетнаме на пару лет. Он потворствовал геноциду бенгальского населения в Пакистане и Восточного Тимора под властью Индонезии, и позволил диктатору Пиночету прийти к власти в Чили.

Неоднозначная, влиятельная и загадочная личность. Ему отдавали дань уважения политики в США, Китае и СССР.

Несколько ключевых идей про переговоры, дипломатию и realpolitik:

1. Дипломатия — это про баланс сил, про то, чтобы учесть интересы всех сторон. В переговорах нужна и «морковка», и «палка».

2. Лидерам нужно учиться на истории, избегать повторения ошибок прошлого, вдумчиво анализировать контекст.

3. Когда идет противоборство, важно поддерживать диалог и открытые каналы коммуникации между сторонами. Дипломатия — это стратегическое мышление, не сиюминутные решения.

4. Прагматизм и гибкость — ключ к успеху в любых переговорах. Важно избегать крайностей, идеологий, истерик.

5. Порядок — это хрупкое равновесие силы, сдержанности, легитимности. Думайте наперед, стремитесь создавать системы [сдержек и противовесов] в отношениях.

Звучит, может, обще, но в контексте новой гонки вооружени и холодной войны.. очень в тему.

Согласны ли с принципами Киссенджера?

PS: неплохой ролик про Г. К. (10 мин)

@ponchiknews

ponchiknews, November 29, 2023

В 1970е Кен Уилбер подтащил идею: в любом языке будут местоимения про себя (я, меня), общности (мы, нас) и всего остального мира (они, их).

Увы, Уилбер заменил эту простую схему на квадранты (подробнее у нас в Соли); занялся попыткой создать свою «теорию всего». Спойлер: вышло так себе )

Кажется, в оригинале было что-то оч изящное. Через эту психо-лингвистическую призму можно уловить ряд смыслов:

1. Развитие человека идёт через последовательность:

🔸Я (= центр мира) →

🔸Мы (я = часть группы) →

🔸Они (я и мы = часть мира, который состоит из разных сущностей).

К примеру, Жан Пиаже открыл точки сдвига в эго ребенка: отделение от матери → осознание «других» → потребность учиться сотрудничать с другими и т.п.

2. Развитие продолжается через переконфигурацию «Я-Мы-Они».

Согласно теории развития эго (EDT), индивидуалисты часто упираются в поиск идентичности: «своего я», «своей стаи». Дальше следует перепридумывание отношения к себе, группе, миру.

Более «поздние логики» — это игра в сочетания «Я-Мы-Они», которые работают уже как система и как игра в изменения такой системы через дефисы в «Я-Мы-Они». То есть, становится больше «Я🔄Мы🔄Они».

Пример: нельзя просто «отъехать на Бали», замедитировать и надеяться на долгосрочные перемены. Реальность всё равно потребует встречи с собой.

3. Обретение большей свободы — это парадокс: быть внутри этих «Я🔄Мы🔄Они»-конструкций и одновременно вне их, играя в игру перепридумывания/пересборки.

Коллективное бессознательное, дазайн, ризома, метамодернизм — это философские подходы к пересборке этих конфигураций.

4. Философия «Я-Мы-Они» прагматична: она заставляет задуматься о том, что любые перемены включают изменения в отношениях между «Я🔄Мы🔄Они».

К примеру, менять культуру компании необходимо на всех 3х уровнях, а не только на одном — то, из-за чего большинство change management инициатив стопорится.

5. К чему приводят мечты? В подходе «Я-Мы-Они» так же есть намёк, к какой финальной точке приведут измененения.

Есть идеи?

@whatsalt × @ponchiknews

ponchiknews, November 28, 2023

Что такое аутентичность: три уровня понимания тренда

Вокруг много разговоров про аутентичность. А вчера даже известный словарь Merriam-Webster назвал «authentic» словом года-2023.

Когда 3 года назад мы начали топить за эту тему через «Аутентичную коммуникацию», внимания к этому слову было существенно меньше.

Что поменялось? Думаю, люди стремятся к тому, что является редким и ценным одновременно. Аутентичность — довольно редкая и ценная штука: в отношениях, в делах, в жизненной позиции и т.п. И чем больше будет синтетического контента, дипфейков и постправды, тем больше будет цениться аутентичность.

Попробую распаковать это слово на трёх уровнях.

***

1️⃣ Аутентичность как «подлиннось».

Согласно словарю Стэнфорда, словом authentikos [αὐθεντικός] ещё в Др. Греции обозначалось что-то оригинальное, настоящее.

Когда мы логинимся куда-то, мы подтверждаем свою «подлинность», что мы = это мы, а не бот или кто-то еще.

Точно так же, когда мы говорим что-то как есть, из нутра, от сердца — это про подлинность наших суждений. (В отличие от суждений коньюнктурных, сиюминутных, продиктованных выгодой или давлением).

Возможно, поэтому люди не оч любят политиков, приспособленцев, лицемеров и соблазнителей (от Макиавелли до пикаперов и НЛПшников),

…и наноробот, любят разговоры про «корневую мотивацию», «первые принципы», «jobs to be done». Всем хочется знать, что же там на самом базовом уровне, у истоков — будь то потребность, мотив, суждение, ценность или личность как таковая.

***

2️⃣ Аутентичность как «авторство».

На следующем уровне предлагаю добавить к подлинности суждений ещё и действия —автономные, авторитетные и не обсусловленные кем-то другим.

В психологии у такого способа жить и действовать есть название — само-авторство (self-authorship).

Самоавторство означает: я автор своей жизни, своих отношений, действий и их последствий.

Аутентичный человек сочетает способности критически сыслить, формировать собственные убеждения и ценности, строить отношения, сохраняя внутренние и внешние обязательства, создавать свою идентичность.

Согласно гарвардскому профессору Роберту Кигану, в состоянии самоавторствеа человек уже не следует внешним формулам, не опирается на авторитетов в вопросах ценностей и принятия решений, не занимается конформизмом, чтобы оставаться частью группы/секты/общины, не боится подвергать сомнению внешние направляющие.

Получается, аутентичность как самоавторство — это про жизнь согласно внутренним ценностям и убеждениям.

***

3️⃣ Аутентичность как «самость».

Третий слой касается слова самость: целостность, единство, essence.

Вопреки расхожему мнению, что алхимики древности занимались поиском бессмертия и создавали «гомункулов в пробирках», современные исследования показывают, что эти дела скорее являлись следствием поиска самости.

В трудах алхимиков явно указано, зачем весь этот сыр-бор: поиск квинтэссенции (quint-essence) – пятого элемента, истинной сути вещей, внутренний переход от земного к идеальному. Их прежде всего интересовала трансформация, индивидуация.

У более современных алхимиков, таких как Карл Густав Юнг, «квинтессенция» сменилась словом «Самость».

Самость, согласно Юнгу, является ядром личности и объединяет сознательное и бессознательное. Это архетип целостности и полноты бытия, на пути к которому парадоксально переплетаются процесс и результат.

Индивидуацией Юнг называет врожденный мотив развития личности, процесс постепенного осознания самости и гармонизации. В ходе этого процесса происходит интеграция противоположностей, таких как Эго и Тень.

Современные психофилософы вроде Ричарда Шварца (IFS) указывают на самость как одновременно на наличие и отстутсвие чего-то внутри, на такой архетип-не архетип. Что, если верить алхимической логике, довольно естественное понимание сути вещей.

В итоге, третий уровень — про индивидуацию и интеграцию самости. Когда человек близок с этому состоянию, стремится к нему — он максимально аутентичен своей природе.

***

К такого рода штукам мы и движемся внутри групп «Аутентчиного лидерства» и в рамках коучинга в «Соли».

***

@ponchiknews

TalkAuthentic.io: Аутентичная коммуникация и лидерство

TalkAuthentic.io - это курс, подкаст и сообщество аутентичной коммуникации. Делаем так, чтобы не бесило и было кайфово общаться. Группа: talkauthentic.io/leadership/ Книга: talkauthentic.io/book/ Подкаст: https://talkauthentic.mave.digital/


А вот вам для примера свежеиспеченный гимн аутентичности в век синтетического контента (или нет).

Стихи: GPT-4, @dddiko

Музыка, вокал: Suno.ai

Кавер-арт: DALL-E

Время создания: 30 мин

Стоит ли нам с бандой нейросеток продолжать карьеру в музыке, как считаете?

ponchiknews, November 27, 2023

Три AI-инструмента, на которые я перешел почти полностью и не нарадуюсь

Летом я много писал про классные AI-инстурменты, которые в разы упрощают/ускоряют/улучшают жизнь. С тех пор продуктов начало выходить оч много, про них перестал писать тут, но про многие продолжаю писать в @ppprompt.

Сегодня хочется рассказать о трех AI-сервисах, которые стали важным ежедневным инструментами для меня.

1. Perplexity.ai. Это поисковик, который работает так, как гугл должен бы работать в 2023-м году. Я полностью перешел с Google на него и всем советую.

Вот почему. В ответ на запрос Perplexity собирает короткую статью, в которой будет инфа из 5-6 топовых источников из поисковой выдачи. То есть, вы получаете качественный ответ и часто вообще не нужно никуда переходить по ссылкам. Но если хочется, то можно перейти на ту ссылку, которая послужила источником самой актуальной части ответа.

Попробовать можно бесплатно, а по этой ссылке можно перейти на платный тариф со скидкой -10$ [note: affiliate link]. В Pro версии есть GPT-4 и Claude 2.1 и режим co-pilot (он ещё круче комбинирует AI и поиск). Из-за этого многие используют Pro-тариф Perplexity вместо ChatGPT Plus или Claude Pro.

Пример поискового ответа в Perplexity.

2. Claude.ai. Это главный конкурент ChatGPT,созданный инженерами, которые неск. лет назад ушли из OpenAI и решили сделать свою «более качественную» нейронку.

Особенность Claude – это то, что он неплохо работает с большими документами. Если туда закинуть длинный док, транскрибацию разговора или даже книжку, то к ним можно будет спокойно задавать вопросы и получать вменяемые ответы (то, с чем у ChatGPT традиционно были проблемы).

3. Fathom.video. Использую его как бесплатный note-taker для зума.

Сам он мало что делает. кроме видео и транскрипта, но этого достаточно, чтобы потом транскрипт закинуть в нейронку (н-р, Claude) и получить оч неплохие инсайты.

Например, тут можно почитать, как я использовал транскрипты и записи разных разговоров для различных кейсов: от саммари до извлечения крутых инсайтов в коучинге и психологии.

***

Какие AI-инстурменты прижились у вас?

@ponchiknews

ponchiknews, November 24, 2023

Нескромный вопрос: а у вас есть желание когда-нибудь попасть на обложку Forbes?

В коучинге мы с клиентами периодически упираемся в сочетание четырёх качеств:

🔸 Высокая амбиционзность (ambitious 70+ по хогану)

♦️ Высокая увлеченность (mischievous 90+ по хогану)

♦️ Высокая самоуверенность (bold 90+ по хогану)

🔹 Высокая потребность в признании (recognition 70+)

Даже если вы не имели дело с тестом Хогана, можно легко себе представить такую смесь.

Обычно люди с таким профилем целеустремлённы до жути, не боятся делать рисковые вещи и подгонять любую ситуацию «под ответ» в свою пользу.

А

когда они игнорируют риски (бизнесовые, социальные, репутационные и т.п.), возникает нехилый шанс оказаться не на той обложке. Или не с тем текстом, с каким бы хотелось.

Что делать?

1. Успокоиться и принять свою чрезмерную волю к победе любой ценой. Кто бы что ни говорил, это безумно важное качество лидера компании, особенно бодренького стартапа.

2. Работать с теневыми проявлениями, замечать, когда переступаете границы (свои и чужие).

3. Снизить потребность во внешней валидации, сфокусировавшись на том, чтобы внутренняя система давала достаточно подтверждения, похвалы и признания для движения через тернии к звездам на более "экологичном топливе".

🚀 Подробнее про разные психологические штуки пишу в канале @turbohogan.

***

@ponchiknews

Моя потребность в признании…

  • Крайне высока
  • Выше среднего
  • Ниже среднего
  • Вообще не стремлюсь
  • 👀

0 votes

ponchiknews, November 23, 2023

Акселераторы, децелераторы, думеры, консерваторы и горящий поиск win-win

Я думаю, что мы обречены. Обречены, как люди, всегда искать либо компромисс, либо win-win.

💠 Компромисс требует шага назад от всех участников тёрок, чтобы договориться.

💠 Win-win подразумевает пару шагов вперед в общем направлении.

Дальше речь о конфликтах в индустрии между сторонниками разных темпов развития ИИ и разной озабоченностью безопасностью (alignment).

Краткая справка:

💠 Acceleration: с каждым новым шагом развития AI может всё лучше делать задачи, которые нужны для развития AI (дизайн чипов, алгоритмы, научные прорывы в полупроводниках и т.п.). В какой-то момент скорость становится нелинейной, появляется ускорение. Мы стремимся не просто к более быстрому, а к экcпоненциальному развитию.

💠 Alignment: при таком ускорении жизненно важно, чтобы AI не делал глупостей, т.е. был сонаправлен человеческим ценностям, а не каким-то другим (машинным, инопланетным и т.п.). Сонаправление AI ценностям людей называют alignment. Как делать alignment при сверх-быстром развитии AI ещё непонятно. Это называется alignment problem.

Как известно, где полярные взгляды, там возникает линия фронта. Сейчас она между сторонниками акселерации и децелерации.

💠 Акселераторы (e/acc) топят за скорость и средне озабочены безопасностью. Типа, пляшем сейчас, по ходу разберемся.

💠 Децелераторы (decels) топят за снижение скорости, сильнее парятся о безопасности.

💠 Думеры считают AI злом и предлагают остановиться, чтобы человечество не закончилось.

💠 Консерваторы хотят, чтобы было "как раньше", AI не "отбирал работу" и т.п.

💠 Еще есть какая-то желаемая точка win-win. В ней есть место и скорости и фокусу на безопасности.

Самая близкая к этой точке инициатива называется Superalignment от OpenAI, когда AI сам тренирует себя на тему безопасности и создаёт паритет скорости разработки AI vs. скорости «обезопашивания» AI.

***

А где находитесь вы? 👇

@ponchiknews

Мне ближе всего…

  • Акселераторы (e/cc; не нужно тормозить, по ходу пьесы разберемся с безопасностью) (104)
  • Децелераторы (decels; притормозить нужно, чтобы было безопасней) (70)
  • Консерваторы (зачем вы все автоматизируете?! Прекратите!) (6)
  • Думеры (все умрем от AI) (14)
  • Сторонники и рыбку съесть, и AI обезопасить (win-win; но как?) (70)
  • 👀 (26)

290 votes

ponchiknews, November 22, 2023

Чему учит нас история Open AI последних 5 дней?

Кажется, всё просто: повздорили, поскандалили на публику, помирились, поехали дальше. Обычная «Санта-Барбара», раздутая до невероятного масштаба. Но это только кажется. И тут есть важные уроки для каждого из нас going forward into AI future.

Ниже моя интерпретация 5 штук, которые произошли за последние 5 дней:

1. Даже самые сильные компании подвержены разрушению из-за человеческого фактора. Есть исследование на основе интервью основателей «не взлетевших» компаний, согласно которым 65% провалов стартапов = следствиее конфликта ко-фаундеров.

То есть, вкладываться в развитие лидерства и отношений → это на 100% важная инвестиция. Всегда.

Человеческий капитал как был важнее просто капитала, так и останется.

2. Отношения держатся на доверии, и утрата доверия практически всегда означает слом в отношениях. Если хочется крутых доверительных отношений (главный предиктор счастья и долголетия, между прочим) → важно работать с доверием. На всех уровнях: личном, семейном, командном, корпоративном, социальном, публичном. И даже на субличностном.

3. Потеряв доверие к OpenAI, люди стали диверсифицировать свое использование нейросетей. Генеративный AI даёт слишком сильное преимущество. Это как перейти от использования счётов к компьюетрам. Класть все яйца в корзину одного только производителя оказалось чересчур опасно для такой инвестиции.

4. Многие разработчики попробовали Open Source модели и поняли, что они не хуже, чем проприетарный ChatGPT. Давно назревавший вопрос — стоит ли платить за то, что делает небольшая группа людей за закрытыми дверми, или вложиться в то, что делает мировое сообщество открыто и для всех? Пока GPT выигрывает во всех тестах, но отставание других моделей становится все меньше.

5. Обнажилось противостояние двух групп людей — акцелератонистов (т. н. e/acc), и децелератонистов (decels). Первые выступают за движение вперед в области исследований и тестов AGI, вторые — за замедление этих исследований. Их яблоко раздора — безопасность.

Decels (типа Ilya Sutskever) видят большой экзистенциальный риск в таком наспех скроенном и быстром развитии нейросетей; e/acc (типа Sam Altman) говорят: "всё будет окей, не паранойте, мы примем меры, если что, и давайте двигаться дальше".

Это чертовски похоже на то, что происходит у человечества при скачках технологий (помните луддитов? амишей? и противостояние церкви и еретиков-ученых? вот примерно та же схема). Тот факт, что это стало ТАК сильно видно — сигнал масштабных перемен.

***

А что видите вы в этой истории с OpenAI?

@ponchiknews

Ponchik News | технологии, развитие, аутентичность в мире AI

Эххх, это прям классика корпоративного мира: компания принимает резонансное решение, заявляет о нём в конце пятницы (рынки закрыты)... ↓ В выходные всё бурлит в догадках, слухах. >>> Вы здесь <<< ↓ За эти два дня становится понятно, как это на кого повлияет. Первые инсайды. ↓ В пн обсуждение продолжается, но уже есть выводы, next steps и все, кому нужно, определились со своим отношением. Перчатки сброшены. *** В голову пришла метафора: OpenAI – это технологический ковёр-самолёт, прорыв настолько крутой, что неотличим от магии. Со стороны выглядит, что он парит над всем остальным, люди охают, ахают, тычут пальцем, восторгаются. Но как и у любого ковра, у OpenAI есть обратная сторона. И пока публика играет в игры с GPT на ковре, под ним происходят свои подковёрные игры. Кто играет пока неясно. Но скоро. Собрал топ-10 причин, которые сейчас звучат в медиа, того, почему OpenAI одним днём расстался с 2 фаундерами из 3х. Ниже опрос: что, как вам кажется, послужило причиной? Спекуляция, конечно, зато со шкалами 📝 ↓ 1. Сэм Алтман слишком увлёкся ускорением разработки GPT, не позаботившись о безопасности (AI alignment). 2. Алтман отказался от планов открыть GPT, и решил оставить его закрытым; вызвал батхёрт у коллег. 3. Внутри OpenAI был изобретён Общий Искусственный Интеллект (AGI), технические члены команды это увидели и решили рвануть стоп-кран, пока не поздно. 4. Алтман был замешан в серых схемах с другими компаниями/странами/полит. силами. 5. Алтман ушёл в коммерцию и увеличение $$, это взбесило тех, кто строил с ним некоммерческую организацию. 6. Другие тех. лидеры или правительства надавили на борд OpenAI с целью избавиться от конкурента. 7. Алтман «слишком много знал» 😎 8. Алтман совершил что-то непристойное и аморальное (e.g. sexual misconduct) — в OpenAI или за его пределами. 9. Правительство США поняло, что ИИ типа GPT — штука слишком опасная, и решило показать всем тех. компаниям, кто главный. 10. Алтман был замешан в каком-то $$ фроде, об этом стало известно совету директоров.


ponchiknews, November 19, 2023

GPTшка аутентичного лидерства: еще один бесполезный агент или в этом что-то есть?

Отвлечёмся от самой интересной Cанта-Барбары в технологическом мире ненадолго.

***

Мы только что закрыли запись на группу «Аутентичного лидерства». К нам пришло много интересных людей для такой темы, и кажется внутри будет мэджик. Спасибо всем дружеским проектам, которые рассказали об этой важной для нас инициативе.

К сентябрю 2023 мы со Светой и командой сделали дофига в области «Аутентичной коммуникации», особенно в части коммуникационных тренингов для команд (их стали заказывать гораздо чаще).

Дальше хочется двигать вширь: объединить коммуникацию с практиками проекта «Соль», которые все про системное развитие и стратегическое мышление.

Хочется связать это все с турбохоганом и теневыми архетипами, без работы с которыми сложно перейти от бессознательного лидерства к более осознанному управлению собой и другими.

Ну и конечно, субличностная модальность (IFS и т.п.) — одна из самых мощных, которую я узнал и использую, в т.ч. в коучинге. Системы субличностей учат, что гармония между «частями» внутри ведёт к балансу снаружи (и почти никогда не наоборот).

***

Следующее «Аутентичное лидерство» планируем в начале 2024-го, записаться в вейтлист можно тут.

***

А параллельно мы решили собрать GPT-агента, который может обсудить с вами аутентичное лидерство, где-то помочь советом, дать рекомендации по развитию и даже провести тест типа «насколько вы аутентичный лидер».

Короче, не отстаем от технологического ковра-самолёта, и как можем несёмся на нём.

🔗 GPT Аутентичного лидерства (нужен Plus-аккаунт): chat.openai.com/g/g-jjVyl2eon-autentichnoe-liderstvo

ponchiknews, November 18, 2023

Эххх, это прям классика корпоративного мира: компания принимает резонансное решение, заявляет о нём в конце пятницы (рынки закрыты)...

В выходные всё бурлит в догадках, слухах.

>>> Вы здесь <<<

За эти два дня становится понятно, как это на кого повлияет. Первые инсайды.

В пн обсуждение продолжается, но уже есть выводы, next steps и все, кому нужно, определились со своим отношением. Перчатки сброшены.

***

В голову пришла метафора:

OpenAI – это технологический ковёр-самолёт, прорыв настолько крутой, что неотличим от магии. Со стороны выглядит, что он парит над всем остальным, люди охают, ахают, тычут пальцем, восторгаются.

Но как и у любого ковра, у OpenAI есть обратная сторона. И пока публика играет в игры с GPT на ковре, под ним происходят свои подковёрные игры. Кто играет пока неясно. Но скоро.

Собрал топ-10 причин, которые сейчас звучат в медиа, того, почему OpenAI одним днём расстался с 2 фаундерами из 3х.

Ниже опрос: что, как вам кажется, послужило причиной? Спекуляция, конечно, зато со шкалами 📝

1. Сэм Алтман слишком увлёкся ускорением разработки GPT, не позаботившись о безопасности (AI alignment).

2. Алтман отказался от планов открыть GPT, и решил оставить его закрытым; вызвал батхёрт у коллег.

3. Внутри OpenAI был изобретён Общий Искусственный Интеллект (AGI), технические члены команды это увидели и решили рвануть стоп-кран, пока не поздно.

4. Алтман был замешан в серых схемах с другими компаниями/странами/полит. силами.

5. Алтман ушёл в коммерцию и увеличение $$, это взбесило тех, кто строил с ним некоммерческую организацию.

6. Другие тех. лидеры или правительства надавили на борд OpenAI с целью избавиться от конкурента.

7. Алтман «слишком много знал» 😎

8. Алтман совершил что-то непристойное и аморальное (e.g. sexual misconduct) — в OpenAI или за его пределами.

9. Правительство США поняло, что ИИ типа GPT — штука слишком опасная, и решило показать всем тех. компаниям, кто главный.

10. Алтман был замешан в каком-то $$ фроде, об этом стало известно совету директоров.

Добро пожаловать в клуб ковёрной аналитики. Так что же послужило причиной отставки Сэма Алтмана?

  • Алтман увлёкся ускорением разработки GPT, не позаботившись о безопасности (170)
  • Алтман отказался от планов открыть GPT, вызвал гнев коллег (49)
  • Внутри OpenAI изобретён (AGI), команда решила рвануть стоп-кран, пока не поздно (121)
  • Алтман был замешан в "серых схемах" с другими компаниями/политическими силами (115)
  • Алтман ушёл в коммерцию, что взбесило команду некоммерческой организации (123)
  • Тех. лидеры или правительства надавили, чтобы избавиться от конкурента (56)
  • Алтман «слишком много знал» (57)
  • Алтман совершил непристойный акт (sexual misconduct) (22)
  • Правительство решило показать, кто главный (64)
  • Имел место фрод, о котором узнал совет директоров (101)

539 votes

ponchiknews, November 17, 2023

Тятя, тятя, нейросети притащили... ничего

Блин, это конечно очень смешно, но использование генеративного AI и GPT выглядит примерно так у большинства людей сейчас.

Почему?

1️⃣ Если не понимать, как строить запросы, направлять AI, сочетая лучшее из возможностей и "доп. функций" (e.g. связки разных AI-продуктов или сочетание human-in-the-loop + AI), то получается так себе

можно сделать вывод, что AI — это какой-то смех и грех и шляпа какая-то. И чего все писают кипятком-то?

2️⃣ Если человек в чём-то below the average, то его работа может стать лучше с помощью Gen AI. Если же наоборот above the average, то его работа без стратегического понимания инструмента попросту стремится к среднему (ухудшается).

и опытные профессионалы считают, что AI лишь мешает их работе, а не помогает,

но из-за когнитивного искажения иллюзорного превосходства (aka «80% людей считают, что водят лучше, чем добрая половина водителей на дорогах») большинству кажется, что получилось так себе.

3️⃣ Слишком много всего. Мы небольшой командой ведем канал про AI и разные новые штуки в AI-мире, и мы не успеваем описывать те десятки классных продуктов в области gen AI, которые появляются каждую неделю,

поэтому хочется отойти и не трогать, пока там что-то не устаканилось,

а оно не устаканивается, потому что экспоненциально (!), а не линейно, как мы люди привыкли.

***

Но мне всё чаще кажется, что мир без использования AI и мир с AI — это как две разные льдины, которые отплывают друг от друга все сильней.

Если не врубаться в эту тему и не экспериментировать, то переплыть разрыв всё сложнее.

***

Недавно думал про хорошую метафору AI сейчас, и понял, что пресловутое слово «co-pilot» (второй пилот) — это довольно точное определение, как стоит воспринимать генеративный AI.

То есть, не давать ему рулить! Но оставлять на него функции штурмана, который подруливает, подкидывает варианты и отстреливается от рутины, чтобы было интересней, быстрее и безопасней двигаться дальше.

***

А у вас какие мысли на этот счёт?

@ponchiknews

ponchiknews, November 17, 2023

Прикольно совмещать дизайн, продуктовое и образовательное. Получаю большое удовольствие. И всегда радуюсь — за себя и за других, — когда удается комбинировать штуки из разных доменов/навыков/опытов. Взбалтывая, искря и не перемешивая🍹 😎

Forwarded from :

💠 Аутентичное лидерство и практики Соли: элементы и части

Мы вовсю готовимся к запуску на следующей неделе: шлифуем программу «Аутентичного лидерства» и изучаем запросы участников группы. Чувствуем, что получается что-то красивое.

На радостях решили добавить 2 места на тарифы с коучингом / ассесментом Турбохоган. Запрыгивайте тут.

@talkauthentic

ponchiknews, November 14, 2023

Пока пилю новый GPT-агент про аутентичную коммуникацию, хочется поделиться затеей:

Делаем AMA (Ask Me Anything) с моим соавтором, психологом и специалистом по коммуникациям Светой Шединой :telegatag/b🧔‍️🙋‍♀️

про:

🔹аутентичность

🔹эмоции

🔹проявленность

🔹открытую коммуникацию

🔹аутентичное лидерство

🔹субличности и IFS

🔹телесный отклик (leadership embodiment)

...и вообще о чём ещё только хочется в рамках проекта Authentic Leadership и около него.

Запишите вопрос, ответим на него в виде кружочка тут.

ponchiknews, November 09, 2023

Классные новости: в группе «Аутентичное лидерство», которая стартует через 2 недели, примет участие Дарья Золотухина как приглашенный эксперт.

Даша отвечает за HR во всем Яндексе, а также круто понимает в том, что такое лидерство, аутентичность, креативность, естественность, много занимается развитием себя, коммуникацией и построением команд.

Даша расскажет о том, что такое аутентичное лидерство для нее, поделится кейсами из своей карьеры, личных выборов, рабочих стратегий.

***

Кстати, у Даши через неск дней стартует свой курс, где соавтор «Аутентичной коммуникации» Леша Иванов (это я) примет участие как гостевой спикер.

@talkauthentic

ponchiknews, November 08, 2023

🔬 Эксперименты и смешная третья опция

Любой эксперимент может иметь три типа результата: «получилось», «не получилось» и «смешная третья опция».

Последнее — это то, ради чего я делаю не меньше 50% разных экспериментов в своей жизни. Если бы я знал, что меня ждет успех или неуспех, я бы просто не делал эти эксперименты: не так будоражит, не так интересно.

У создателя термина disruption и пионера подхода Jobs to be Done Клэя Кристиансена в великой и малоизвестной книге How WIll You Measure Your Life есть простое разделение стратегий в жизни: преднамеренные и эмерджентные.

Преднамеренные стратегии — это стратегическое планирование, упорная работа префронтальной коры, дисциплина и т.п.. Это как раз про «проверить эксперимент», то есть получить «да» или «нет».

Эмерджентные стратегии — это случайности, спонтанности, необычности, маловероятности, черные лебеди и т.п. Это как раз про то, чтобы получать «смешную третью опцию».

Уже какое-то время я выступаю за то, чтобы выделять 10% своих ресурсов на эксперименты, даже самые странные, глупые или шибанутые. Чтобы просто посмотреть, что будет, и, может быть, в вихре спонтанности получить то, о чём и подумать особо не мог. Смешную третью опцию.

@ponchiknews

Ponchik News | технологии, развитие, аутентичность в мире AI

Каздев и JTBD 101. Часть 1. С 2011-го годя я сделал примерно 500 каздев интервью для тех. продуктов в СНГ, Западной и Северной Европе и в США (на Штаты приходится 25% всех потраченных консьюмерских денег в мире). На основе таких интервью вместе с командами мы запустили продукты для Афиши, Рамблера, Таймпэда, Профи.ру, клиентов IDEO и SYPartners, продуктового гиганта Philips, ряда стартапов в США и сделали возможными внутренние HR-инновации для нескольких крупных американских компаний, включая Nike и Apple. Каздев — сокрещение от customer development — это вид глубинных интервью, при котором вы хотите понять цели, задачи и потребности клиентов и пользователей. Докопаться до их глубинных желаний. Понять их способы думать. Осознать их внутренние порывы. Если вы понимаете это, вы можете создавать продукты, которые действительно отвечают запросам ваших клиентов. Мне довелось делать каздевы с блокчейнерами, продавцами пиццы в Вирджинии, продакт-менеджерами в Кремниевой долине, тех. предпринимателями в Британии.…


ponchiknews, November 07, 2023

Что за GPT-4 Turbo и почему вчера одно выступление закрыло сразу сотни стартапов?

Вчера в СФ прошел первый кейноут OpenAI, куда помимо топов компании позвали еще и CEO Microsoft + кучу разработчиков на GPT. Хотя выступление не такое продающее и восторженное, как события Apple, многие в ИТ-индустрии вздрогнули. Новостей много и они неутешительные.

Представьте, что год назад запустился первый айфон — это был ChatGPT на модели GPT-3. Вчера, по сути, запустили УЖЕ айфон 10 (ChatGPT на основе GPT-4 Turbo). Почему?

Продолжим аналогию с айфоном:

🔵 «Операционная система» поумнела и ускорилась в несколько раз (сколько именно не говорят, но обещают ускорять и ускорять).

🔵 Объем «памяти» скакнул в 16 раз. Теперь можно закинуть еще больше любых данных, и OpenAI будет их помнить и давать ответы. Как если у вас был iPhone 8GB, а тут сразу 128GB за меньшие деньги (см. дальше).

🔵 Появился свой «App Store» с очень умными приложениями (агентами), которые умеют делать многое без вашего участия

🔵 Видео, аудио и текст теперь стали появляться из одних и тех же запросов

🔵 Появился свой голосовой «Siri» в несколько раз точнее, в десятки раз более естественный и в тысячи раз умнее, чем в современных телефонах и умных колонках.

🔵 Распознавать и синтезировать речь тоже можно, причем пониматеся и звучит она не хуже, чем от реального человека. «Siri» больше похожа на AI из фильма Her, чем когда либо.

🔵 Стоимость разработки снизилась почти в три раза. Еще больше разработчиков могут теперь что-то придумать и сделать за адекватные деньги.

🔵 У разработчиков появился свой Developer SDK (среда разработки), они могут делать через API-запросы практически все, что может делать пользователь на официальном сайте ChatGPT. То есть, как будто разработчики уже могут делать практически всё, что может делать «операционная система» айфона.

🔵 Теперь можно натренировать модель на своих данных. Это как персональные приложения, которые идеально и безопасно работают внутри компаний или комьюнити для их нужд, но не доступны всем подряд.

Дальше 👇

...Короче, это как если 10 лет работы над айфоном произошли за 1 год. Наглядный пример экспоненциального развития технологий.

Еще полгода и будем «летать» на условном iPhone 20 Pro Max Turbo, за еще меньшие деньги. Те из нас, кто адаптируется, конечно.

Мне больше всего зашли примеры «автономных агентов» (GPTs), которые делают работу, пока вы спите. Или пока не спите, решают задачи, на которые вам бы нужно было 100x времени и 10x согласований.

Многим ИИ-стартаперам опять придется перепридумывать свои бизнесы, потому что то, что предлагает OpenAI, уже встроено в продукт. Например, сервисы типа ChatWithPDF попросту больше не нужны.

Какие я вижу риски?

- Все так же закрытая экосистема. OpenAI секретничают про внутренности своих моделей. К примеру, Meta пошла по другому пути: их LLM-модель LLaMA доступна для всех желающих.

- Сильнейшая конкуренция, вход в которую очень дорогой и которую могут позволить только самые большие и богатые компании на рынке. Все, кто не входит в топ-10, посасывают лапу.

- Очень много разговоров про безопасность и регулирование, которые остаются за скобками. А ведь некоторые топ-менеджеры этих компаний сравнивают прорывы в области AI с прорывами в атомной энергетике и военном деле середины XX века.

Напоминаю, что про AI у меня отдельный канал на русском и английском (чтобы можно было проще шарить): @ppprompt. Enjoy!

ponchiknews, November 02, 2023

Запускаем новую группу: «Аутентичное лидерство». Начало 21 ноября

Бесит вот какая сложность: хочется уметь вести за собой, добиваться целей, создавать команды и управлять их динамикой, меньше бояться и больше делать. И при этом, конечно, хочется быть собой.

Но всё это увязать дико непросто. Вызовов всё больше, сложность мира повышается, команды и люди становятся всё более непростыми индивидуалистами со своим подходом к каждому.

Именно поэтому я и Света Шедина решили сделать группу, в которой можно исследовать себя как аутентичного лидера, пользуясь практиками, мудростью группы и разными перспективами, из которых можно по-другому увидеть себя.

За последние 3 года мы провели блольше сотни воркшопов и сессий в рамках «Аутентичной коммуникации», «Соли» и «Турбохогана», и поняли, что пора соединить ключевые находки из разных дисциплин и поговорить уже не об аутентичном общении, а об аутентичном лидерстве.

Что будем делать внутри:

+ Развивать навыки аутентичности, используя уровни эмоций, потребностей и убеждений;

+ Исследовать свой стиль лидерства (через несколько разных призм и фреймов);

+ Применять субличностный подход IFS (internal family systems) для развития себя и работы с другими;

+ Стратегически управлять групповой динамикой и конфликтом;

+ Глубже понимать и использовать системное мышление и циклы обратной связи;

+ Заходить в leadership embodiment: слушать и осознанно применять телесный отклик;

+ Использовать активное слушание и эмпатичное лидерство;

+ Много практиковаться: соло, 1:1 и в группе.

Начинаем 21 ноября, созвоны каждую неделю вечерами по Европе в течение 4 недель. Стоит это от $650 до $1400 в зависимости от разных плюшек (например, можно включить в прохождение турбохоган с разбором). Будет камерная группа и много практики.

Часть группы уже собрали из выпускников предыдущих потоков, и с удовольствием ждем новых участников.

Почитать подробнее и записаться можно тут: talkauthentic.io/leadership

Если есть вопросы, пишите нам в ботик: @da_ponchik_bot

***

@ponchiknews @talkauthentic

ponchiknews, November 01, 2023

#Книжки: октябрь 2023. The Basic Laws of Human Stupidity, Бхагавад Гита, Искусство для пацанчиков

🔵 The Basic Laws of Human Stupidity, Carlo Cipolla — 8/10

Ироничная книжка Кало Чиполла, написанная впервые в 1970-м и много раз издававшаяся с тех пор на 20+ разных языках.

Шутливая, вроде бы, идея о том, что среди любой популяции людей в любой стране/профессии/страте всегда найдутся в большом количестве stupid people (долбоёбы — наверно, самый точный перевод), которые будут действовать И во вред себе, И во вред другим.

В отличие от терпил (которые постоянно проигрывают другим), бандитов (которые выигрывают в ущерб другим) и умников (которые выигрывают сами и помогают выиграть другим), долбоёбы имеют тенденцию портить жизнь как себе, так и окружающим без видимой причины. Обсуждению этого феномена посвящены все главы этого памфлета.

Книга постепенно перестает быть смешной, поскольку автор — профессор экнономики, который через нелепые архетипы погружает в мир теории игр. И заканчивает выводами, с которыми хотелось бы не согласиться. Но уже не так то-просто.

🔵«Бхагавад Гита» в переводе Бориса Гребенщикова — 10/10

Безумно люблю этот перевод и точную ювелирную работу Бориса Борисовича. Слушаю в виде аудиокниги уже третий раз.

Каждый раз нахожу что-то новое в диалоге царевича Арджуны и бога Кришны, наставлениях последнего о душе, целях, долге, сострадании и прочем, связанном с архетипами правителя и воина.

🔵 «Искусство для пацанчиков», Настя Четверикова — 9/10

15 увлекательных глав с рассказами о течениях, художниках, стилях и объектах искусства, которые после прочтения книги хочется не только рассмотреть еще раз, но и осознать совсем иначе.

Скажем, тот факт, что Климт был сыном ювелира и физически использовал золото в своих работах, дает иное представление о его «поцелуе». А то, что картины Дали можно распарсить не как сюр и бред, а как естественное следствие истории его жизни, становится приятным сюрпризом. И все такое: от совсем древних безымянных мастеров до поп-арта Уорхола. Recommended!

@ponchiknews

older first