April 12, 06:21

Dark patterns — это такие схемы вовлечения пользователя в продукт, при которых происходит непротивоправное склонение пользователя к определенным действиям. Игра с нулевой суммой: проигрывает потребитель, выигрывает продукт.

В обществе за разрешение таких вопросов отвечает мораль и этика, но в технологиях все движется так быстро, что мораль и этика попросту не успевают. К примеру, когда Google попытался сделать свой комитет по этике искусственного интеллекта, он развалился спустя всего неделю.

Причина: технологические компании понимают всю глубину проблемы, но, увы, не могут разрешить ее изнутри. По факту, это два противоположных вектора и намерения: 1) выполнять свои квартальные цели по прибыли, охвату и вовлеченности и 2) делать хорошо гражданам в долгосрочной перспективе.

Пока лучшие умы бьются над решением этой проблемы, самое эффективное, что получилось — это делать продукты на бизнес-модели, в которой клиент сам платит за продукт (или кто-то платит за него: работодатель, спонсор, папик). В рекламной модели (которая по факту торгует данными и вниманием пользователя, чтобы заработать денег), решить такую задачу непросто.

В этот момент на сцену выходят регуляторы. Их роль — выступать гарантом гражданских свобод, морали и базовых правил (а также на основе популистских законов приходить к власти в следующем сезоне).

Государства в этом смысле крайне важны. Проблема только в том, что они очень медленные и крайне неадаптивные: попробуй создать своевременный, прогрессивный закон. Или отменить закон, если ты его уже принял, и вдруг понял, что он не работает. (Законы про часовые пояса не считаются!)

Надо сказать, появление в конгрессе США Цукерберга (Facebook), Пичаи (Google) и Дорси (Twitter) год назад спрвоцировало много интересного движа. Сенаторы начали придумывать законы, которые помогают что-то ограничить: распространение и использование личной информации пользователей, использование в интерфейсах «темных паттернов», и т.п.

Последний пример: пара сенаторов надавно предложила ограничить механики, вовлекающие людей в использование продуктов путем манипуляций. Как они будут определять, что является манипуляцией, а что нет — неясно.

Тут очень тонкая грань между когнитивными искажениями, желаниями и намерениями разных сторон. В этом плане, воспользоваться простым пользователем гораздо проще, чем главой корпорации, но у всех есть собственные когнитивные искажения. И это, во многом, ровно то, что нас делает людьми, а не просто размножающимися биороботами.

На самом деле, очень похоже, что власть старая офигевает от того, сколько у новых технологических компаний власти новой:

1. Если бы Facebook был государством, то он бы был самой большой страной по числу граждан (MAU 2.2 млрд.), в полтора раза опережая Китай (1.4 млрд) и Индию (1.3 млрд).

2. При этом, если лидеры де-юре демократических стран сменяются каждые 4-8 лет, в капитализме практически нет механизмов отстранения лидера, если он владеет контрольным пакетом акций.

3. Google сейчас знает о намерениях и поступках людей больше, чем все пасторы, шаманы, оракулы и священники за всю историю мировых религий. Такая власть над данными беспрецедентна в истории.

4. Apple вообще заставляет нас делать удивительные вещи: оплачивать сверхдорогую ежегодную подписку на тысячедолларовый компьютер, например. Попробуй отпишись: это сразу меняет восприятие твоего социального статуса, коцает репутацию инноватора, и понижает интерес противоположного пола. (Шучу. Хотя нет.)

5. До 40% облачной инфраструктуры, на которой крутится Интернет, принадлежит Amazon (AWS). Компания является доминирующим «снабженцем» планеты, и отвечает за хлеб, информацию и зрелища.

Что дальше? Думаю так:

1. Американская версия GDPR не за горами.

2. Технологические компании подвергнутся серии антимонопольных рассмотрений.

3. Внутри тэк-компаний будет зреть недовольство негуманистическими политиками, и сотрудники попытаются больше влиять на решения руководства.

А вы что думаете о регуляции гостударством продуктовых и дизайн-паттернов?

Обсуждение на Хабре: habr.com/ru/post/447792/

«Темные паттерны» и закон: как регуляторы США пробуют контролировать продуктовые механики и снижать влияние тех-компаний

«Темные паттерны» (dark patterns) — это такие схемы вовлечения пользователя в продукт, при которых есть происходит игра с нулевой суммой: выигрывет продукт, а п...