Нідерланди оштрафували Uber на €825 млн: алгоритми компанії автоматично блокували водіїв

Як Uber опинився під розслідуванням

Справу проти Uber розглядало Нідерландське управління захисту даних. Підставою стала скарга, подана у Франції, однак розслідування проводили саме в Нідерландах, оскільки там розташований європейський офіс компанії.

Регулятор аналізував практику Uber у 2020–2022 роках та перевіряв, як компанія використовувала автоматизовані системи для контролю роботи водіїв.

У центрі уваги опинилося питання: чи може алгоритм самостійно приймати рішення, які фактично позбавляють людину можливості працювати через платформу.

За що саме оштрафували компанію

Регулятор дійшов висновку, що Uber використовував автоматизовані механізми для виявлення можливих порушень з боку водіїв.

Серед причин, через які система могла застосовувати санкції:

• - підозра у шахрайстві;

• - навмисне збільшення маршруту для підвищення вартості поїздки;

• - прийняття замовлення без наміру виконувати його;

• - низькі оцінки водія;

• - інші показники, які алгоритм міг розцінювати як порушення правил платформи.

Проблема, на думку регулятора, полягала не лише у використанні алгоритмів. Ключовим стало питання людського контролю та права водія зрозуміти, чому щодо нього було ухвалено негативне рішення.

Чому це порушення GDPR

Європейський регламент захисту даних GDPR передбачає обмеження щодо рішень, які приймаються виключно автоматизованими системами, якщо вони мають суттєвий вплив на людину.

Для працівника або партнера платформи блокування акаунта може мати прямі економічні наслідки: людина втрачає можливість отримувати замовлення та заробляти через сервіс.

Тому алгоритмічне рішення не повинно перетворюватися на фактично остаточний «вирок» без можливості отримати пояснення, звернутися до людини та оскаржити результат.

Штраф — один із найбільших у Європі

Сума санкції становить €825 млн.

Це робить справу однією з найбільших за всю історію застосування GDPR у Європі.

Для порівняння, ще більший штраф отримала Meta — €1,2 млрд.

Таким чином, рішення проти Uber демонструє, наскільки дорого компаніям можуть коштувати порушення правил роботи з персональними даними, особливо коли автоматизовані системи безпосередньо впливають на професійну діяльність людей.

Uber не погоджується зі звинуваченнями

У компанії відкидають висновки регулятора та планують оскаржити рішення в суді.

Uber стверджує, що остаточна деактивація акаунтів водіїв не відбувалася виключно автоматично. За позицією компанії, у процесі перевірок брали участь люди.

Також Uber вважає штраф непропорційним, оскільки, за твердженням компанії, кількість водіїв, яких безпосередньо зачепили відповідні рішення, була відносно невеликою.

Чому ця справа важлива далеко за межами Uber

Рішення нідерландського регулятора може мати значення для всієї платформної економіки.

Сьогодні алгоритми визначають не лише вартість поїздки чи порядок показу замовлень. Вони можуть оцінювати водіїв, кур'єрів, продавців, фрилансерів та інших працівників цифрових платформ.

Якщо алгоритм може заблокувати людину, знизити її рейтинг або фактично позбавити доступу до заробітку, виникає питання: хто відповідає за таке рішення — програма чи компанія, яка її створила?

Європейський підхід дедалі чіткіше рухається до того, що автоматизація не повинна позбавляти людину права на пояснення та перегляд рішення.

Що це може означати для майбутнього Uber

Якщо штраф залишиться чинним після оскарження, Uber доведеться врахувати вимоги регулятора у своїх системах контролю водіїв.

Це може означати більше людських перевірок, детальніші пояснення причин блокування та ширші можливості для водіїв оскаржувати рішення алгоритмів.

Для компанії це також створює додаткові витрати: чим більше рішень потрібно передавати на перевірку людям, тим складніше й дорожче масштабувати автоматизований контроль.

Водночас для працівників платформ це означає посилення захисту від ситуації, коли одне рішення алгоритму може миттєво позбавити їх основного джерела доходу.

Головний висновок

Справа Uber показує, що в Європі алгоритм не може бути повноцінною заміною людському рішенню там, де від його роботи залежить професійне та фінансове становище людини.

Компанії можуть використовувати штучний інтелект та автоматизовані системи для боротьби з шахрайством, але вони мають залишати людині можливість зрозуміти причини санкції та оскаржити її.

Саме за цю межу між автоматизацією бізнесу та правами людини Uber тепер може заплатити €825 млн.