7 января интернет взорвался. На Reddit всплыл (и быстро исчез) пост от инсайдера крупного агрегатора доставки.
Он описал алгоритм Desperation Score — нейросеть, которая вычисляет, насколько сильно курьеру нужны деньги, чтобы... платить ему меньше. CEO компаний кричат, что это фейк.
Эксперты говорят, что это технически невозможно. Но почему миллионы людей (включая нас с вами) мгновенно в это поверили? Потому что технологии для «цифрового грабежа» уже существуют, и мы сами носим их в кармане.
Глава 1. В чем суть скандала?
Из удаленного поста на Reddit (перевод):
"Я пишу это с одноразового ноутбука, используя Wi-Fi библиотеки, потому что связан жестким NDA. Но я больше не могу молчать. ...Самое страшное, что мы внедрили — это Desperation Score (Индекс отчаяния). Это скрытая метрика от 0 до 100. Если водитель обычно заходит в приложение в 10 вечера и мгновенно хватает копеечные заказы по $3, алгоритм помечает его как 'High Desperation' (В отчаянии).
После этого система намеренно перестает показывать ему дорогие заказы. Логика менеджеров проста: 'Зачем платить этому парню $15, если мы знаем, что он согласится и на $6?'"
Анонимный автор утверждал, что внутри платформы каждому исполнителю присваивается скрытый рейтинг от 0 до 100.
Алгоритм циничен до ужаса:
Пост был написан с пугающими техническими деталями (термины вроде predictive wage suppression), что вызвало волну паранойи. Люди начали писать: «Я заметил, что когда на карте ноль, мне падают только копеечные заказы!».
Глава 2. Откуда они знают? (Слежка 2.0)
Даже если конкретный пост на Reddit — выдумка, дыма без огня не бывает. Компании уже собирают данные, которые позволяют построить такой «Индекс отчаяния».
Вот на чем (теоретически) строится ваш профиль жертвы:
Заряд батареи < 15%. Еще в 2016 году Uber обнаружил: люди с разряжающимся телефоном готовы платить за поездку больше. Тогда они поклялись не использовать это. Но соблазн велик. Для курьера низкий заряд — сигнал паники: «Надо взять заказ срочно, пока телефон не сдох».
Скорость тапов по экрану. Вы хватаете первый попавшийся заказ за 0.5 секунды? Вы обновляете ленту каждые 10 секунд? Нейросеть считывает микромоторику. Дрожащие пальцы = готовность работать за еду.
Кредитная нагрузка. Экосистемы (банки + доставка + такси) знают о вас всё. Связать базу должников по кредиткам с базой таксистов — дело одного SQL-запроса.
Алгоритм индекса отчаяния
Посмотрите на схему выше. Это не кадр из киберпанк-фильма, это логика работы современного маркетинга. Найти слабого -> Дожать -> Получить маржу.
Глава 3. Почему это (почти) легально?
Вы спросите: «А как же законы?» А никак. В пользовательском соглашении это называется «Динамическое ценообразование».
Когда магазин дает вам скидку на день рождения — это «персонализация».
Когда алгоритм снижает оплату курьеру, зная, что ему некуда деваться — это тоже «персонализация».
Юридически робот не дискриминирует вас по полу или расе. Он дискриминирует вас по поведенческому профилю. А закона, защищающего «нервных» или «бедных», пока не придумали.
Глава 4. Это касается не только курьеров
В нашей прошлой статье про чипы Neuralink (которая вызвала бурю в комментариях) мы боялись, что технологии залезут нам в мозг. Скандал с Desperation Score показал: не обязательно лезть в мозг, достаточно залезть в кошелек.
Эту механику уже тестируют везде:
Кейс с Яндекс.Маркетом: Алгоритм там ведет себя как гениальный манипулятор. Цены скачут абсолютно нереально в зависимости от аккаунта. Недавно у меня заканчивалась подписка Яндекс Плюс. И что вы думаете? В этот момент все персональные акции и скидки на моем аккаунте внезапно исчезли. Система будто бы говорила: «Ах, ты можешь уйти? Ну тогда плати по полной, никаких поблажек». Или наоборот — щупала мою платежеспособность. Стоило продлить подписку — «магия» скидок вернулась.
Мы входим в эру Алгоритмического Хищничества. ИИ — идеальный хищник. Он чувствует запах нужды и нападает, когда вы слабее всего.
Резюме: Как обмануть систему?
P.S. А вы замечали «странности» в алгоритмах? Бывало, что цена росла именно тогда, когда вам было «очень надо», или заказы исчезали, когда нужен кэш? (Я сейчас не про изменения погоды).
Источник
Он описал алгоритм Desperation Score — нейросеть, которая вычисляет, насколько сильно курьеру нужны деньги, чтобы... платить ему меньше. CEO компаний кричат, что это фейк.
Эксперты говорят, что это технически невозможно. Но почему миллионы людей (включая нас с вами) мгновенно в это поверили? Потому что технологии для «цифрового грабежа» уже существуют, и мы сами носим их в кармане.
Глава 1. В чем суть скандала?
Из удаленного поста на Reddit (перевод):
"Я пишу это с одноразового ноутбука, используя Wi-Fi библиотеки, потому что связан жестким NDA. Но я больше не могу молчать. ...Самое страшное, что мы внедрили — это Desperation Score (Индекс отчаяния). Это скрытая метрика от 0 до 100. Если водитель обычно заходит в приложение в 10 вечера и мгновенно хватает копеечные заказы по $3, алгоритм помечает его как 'High Desperation' (В отчаянии).
После этого система намеренно перестает показывать ему дорогие заказы. Логика менеджеров проста: 'Зачем платить этому парню $15, если мы знаем, что он согласится и на $6?'"
Анонимный автор утверждал, что внутри платформы каждому исполнителю присваивается скрытый рейтинг от 0 до 100.
Алгоритм циничен до ужаса:
- ИИ анализирует поведение водителя/курьера в реальном времени.
- Если Desperation Score > 80 (человек в отчаянии), алгоритм перестает показывать ему выгодные заказы.
- Зачем платить $10, если человек согласится и на $6, потому что ему завтра платить за ипотеку?
Пост был написан с пугающими техническими деталями (термины вроде predictive wage suppression), что вызвало волну паранойи. Люди начали писать: «Я заметил, что когда на карте ноль, мне падают только копеечные заказы!».
Глава 2. Откуда они знают? (Слежка 2.0)
Даже если конкретный пост на Reddit — выдумка, дыма без огня не бывает. Компании уже собирают данные, которые позволяют построить такой «Индекс отчаяния».
Вот на чем (теоретически) строится ваш профиль жертвы:
Заряд батареи < 15%. Еще в 2016 году Uber обнаружил: люди с разряжающимся телефоном готовы платить за поездку больше. Тогда они поклялись не использовать это. Но соблазн велик. Для курьера низкий заряд — сигнал паники: «Надо взять заказ срочно, пока телефон не сдох».
Скорость тапов по экрану. Вы хватаете первый попавшийся заказ за 0.5 секунды? Вы обновляете ленту каждые 10 секунд? Нейросеть считывает микромоторику. Дрожащие пальцы = готовность работать за еду.
Кредитная нагрузка. Экосистемы (банки + доставка + такси) знают о вас всё. Связать базу должников по кредиткам с базой таксистов — дело одного SQL-запроса.
Алгоритм индекса отчаяния
Посмотрите на схему выше. Это не кадр из киберпанк-фильма, это логика работы современного маркетинга. Найти слабого -> Дожать -> Получить маржу.
Глава 3. Почему это (почти) легально?
Вы спросите: «А как же законы?» А никак. В пользовательском соглашении это называется «Динамическое ценообразование».
Когда магазин дает вам скидку на день рождения — это «персонализация».
Когда алгоритм снижает оплату курьеру, зная, что ему некуда деваться — это тоже «персонализация».
Юридически робот не дискриминирует вас по полу или расе. Он дискриминирует вас по поведенческому профилю. А закона, защищающего «нервных» или «бедных», пока не придумали.
Глава 4. Это касается не только курьеров
В нашей прошлой статье про чипы Neuralink (которая вызвала бурю в комментариях) мы боялись, что технологии залезут нам в мозг. Скандал с Desperation Score показал: не обязательно лезть в мозг, достаточно залезть в кошелек.
Эту механику уже тестируют везде:
- Банки: Вы часто заходите в приложение проверить баланс? Ставка по кредиту для вас будет на 0.5% выше. Вы ведь «горите».
- Ритейл: Ищете лекарство в 3 часа ночи? Цена будет выше, чем днем. Вам же срочно.
- Я сам часто замечаю подобную «магию» в наших сервисах, особенно в экосистеме Яндекса.
Кейс с Яндекс.Маркетом: Алгоритм там ведет себя как гениальный манипулятор. Цены скачут абсолютно нереально в зависимости от аккаунта. Недавно у меня заканчивалась подписка Яндекс Плюс. И что вы думаете? В этот момент все персональные акции и скидки на моем аккаунте внезапно исчезли. Система будто бы говорила: «Ах, ты можешь уйти? Ну тогда плати по полной, никаких поблажек». Или наоборот — щупала мою платежеспособность. Стоило продлить подписку — «магия» скидок вернулась.
Мы входим в эру Алгоритмического Хищничества. ИИ — идеальный хищник. Он чувствует запах нужды и нападает, когда вы слабее всего.
Резюме: Как обмануть систему?
- Пока регуляторы спят, вот три правила цифровой гигиены, чтобы не повышать свой «Индекс отчаяния»:
- Держите телефон заряженным. Психологически и алгоритмически — это ваша защита.
- Делайте паузы. Не принимайте предложения платформы мгновенно. Задержка в 5-10 секунд сбивает профиль «паникера».
- Не давайте лишних прав. Запретите приложению такси доступ к контактам, Bluetooth и истории браузера.
P.S. А вы замечали «странности» в алгоритмах? Бывало, что цена росла именно тогда, когда вам было «очень надо», или заказы исчезали, когда нужен кэш? (Я сейчас не про изменения погоды).
Источник
