Пылесосы следят за тобой, анон! Скандал с Roomba из-за фото женщины в туалете и новый взгляд на разработку ИИ / Хабр
Осенью 2020 года фрилансеры в Венесуэле разместили серию изображений на онлайн-форумах, где они общались, обсуждая свои рабочие дела. На фотографиях были запечатлены домашние сцены, в том числе довольно интимные, снятые с низких ракурсов. На одном особенно показательном кадре молодая женщина в бледно-лиловой футболке сидела на унитазе с шортами спущенными до середины бедра.
Все эти изображения были сделаны не скрытой камерой и не человеком, ворвавшимся в чей-то дом. Они принадлежали одной из версий робота-пылесоса iRobot Roomba серии J7. Оказалось, что фотографии от пылесоса автоматически отправляются в стартап Scale AI, который нанимает сотрудников из бедных стран для маркировки аудио-, фото- и видеоданных, используемых для обучения искусственного интеллекта. А потом эти сотрудники при желании делятся этими данными друг с другом (и со всем Интернетом).
Всего в MIT Technology Review получили 15 таких снимков.
Все они — частные, из обычной жизни людей: играющие на полу дети, кухни, спальные комнаты, ванные и туалеты. Самой приватной была та серия кадров с молодой женщиной на унитазе. Ее лицо было скрыто на главном изображении, но не было скрыто на третьем снимке из прокрутки кадров ниже. На другой серии снимков было видно мальчика восьми-девяти лет, растянувшегося на животе на полу в коридоре. Он с явным удовольствием смотрит на объект, записывающий его чуть ниже уровня глаз.
Из других снимков можно узнать, как живут люди во многих домах по всему миру. Мебель, декор и предметы, расположенные высоко на стенах и потолках, часто обведены прямоугольниками и снабжены надписями вроде «телевизор», «растение», «книга» или «светильник».
iRobot — крупнейший в мире поставщик роботов-пылесосов, которого недавно купила Amazon за $1,7 млрд, — подтвердил MIT, что эти изображения были сделаны их роботами Roomba в 2020 году. Как говорит компания, «они были переданы партнерам, которые подписали письменные соглашения, подтверждающие, что данные никогда не будут разглашены».
По словам iRobot, эти устройства при покупке всегда помечены ярко-зеленой наклейкой с надписью «Может производить видеозапись». А конкретно эти новые модели выдавались платным сборщикам данных, чтобы протестировать систему ИИ. Эти люди по контракту должны были «удалить все, что они считают конфиденциальным (включая детей), из любого пространства, в котором работает робот». То есть, по оценке iRobot, любой, чьи фото или видео появлялись в стримах, соглашался на то, чтобы их роботы-пылесосы их снимали.
Конечно, звучит успокаивающе. Если мы не подпишем такой контракт, наши данные в Сеть утекать не будут! Но на деле потребители регулярно соглашаются на отслеживание своих данных на различных устройствах, от айфонов до стиральных машин. Мало кто разбирается в политиках конфиденциальности и вчитывается во все расплывчатые формулировки (будем честны, я такое последний раз делал лет 10 назад). Достаточно поставить галочку напротив нужной формы. А потом, оказывается, ваше голое тело, фотографии ваших детей и интерьеры вашей квартиры будут обсуждаться на форумах в Венесуэле или на Филиппинах.
ИИ, требующие большие объемы фото- и видеоданных, появляются во всё новых бытовых товарах. Чаще всего в них заложены модели машинного обучения, анализирующие наши голоса, лица, интерьеры и другую личную информацию, чтобы улучшать работу устройства. Роботы-пылесосы начинают эффективнее двигаться по комнатам, очки Oculus — точнее понимать, в каком положении сейчас находится ваша голова. Но личная приватность при этом, оказывается, страдает сильнее, чем многие подозревали. Как минимум, мало кто думает, что «ИИ» в итоге отсылает сделанные фото реальным людям на обработку.
Не спрятаться, не скрыться
Если подумать, роботы-пылесосы — идеальные шпионы и сборщики секретных данных. Они могут разъезжать по твоему дому, и у тебя нет возможности это контролировать. И они снимают даже то, что может быть не видно человеческому глазу. Особенно это касается продвинутых устройств с передовыми камерами и искусственным интеллектом, таких как Roomba J7.
Мы буквально относимся к машинам по-другому, чем к людям.
Психологически гораздо проще находиться рядом с симпатичным маленьким роботом. Он может заезжать к вам в туалет или фотографировать ваших детей. Мы не ощущаем его как кого-то, кто ходит по вашему дому с камерой. Хотя именно это и происходит. Данные из робота транслируются на облачное хранилище, а потом идут в компанию изготовителя для анализа.
После этого информация обрабатывается и используется для улучшения работы пылесосов, а также для создания куда более умных роботов, которые однажды смогут взять на себя вообще все ваши домашние дела.
Хотя и сейчас просто «пылесосами» назвать такие девайсы уже язык не поворачивается. Новейшими роботами Roomba можно управлять голосом через Google Nest и Amazon Alexa, и они распознают более 80 отдельных домашних предметов.
Но чтобы они ещё точнее понимали, что находится вокруг них, нужно сделать наборы данных, приходящие на серверы, понятными и полезными для машинного обучения. А для этого какие-то люди должны сначала просмотреть, классифицировать, пометить и добавить контекст к каждому биту данных.
Этот процесс называется «аннотацией данных».
А в конце этого процесса всегда где-то сидит группа людей — обычно в комнате без окон, — которые просто наводят и щелкают мышкой по деталям картинки «Да, это объект» или «Нет, это не объект». И они, будьте уверены, очень пристально изучают изображения, которые получают компании с камер в вашем доме.
Избавиться от такой процедуры на данном этапе нельзя. Есть очень много нестандартной мебели, разных странных предметов в домах. Нельзя предсказать всё, с чем встретятся роботы. Безопасный ли это объект, можно ли по нему проехать? Или это вообще пыль, которую нужно убрать? Часто встречаются носки, брошенные трусы, какие-то кабели. Но даже кабели могут выглядеть по-разному в Европе, в США и в Китае! Поэтому какой-то человек в итоге должен смотреть на реальные фото, чтобы тренировать систему.
15 фото, которые раскопали MIT Technology Review, — это всего лишь крошечная доля масштабной, многомиллиардной экосистемы внешней обработки данных.
Никто не делает такое внутри фирм: на это просто нет ресурсов и времени. iRobot открыто заявила Wall Street Journal, что она поделилась 2 миллионами своих изображений со Scale AI и еще десятком других платформ аннотирования данных. В данном случае утечка произошла от нескольких фрилансеров, работавших со Scale AI.
Этот набор изображений — лишь малая толика того, что на самом деле просматривается каждый день. И проблема здесь не только в отдельной компании или отдельном девайсе. Всё шире распространяется и развивается практика обмена потенциально конфиденциальными данными — для более быстрого обучения алгоритмов. В итоге снимки совершают удивительное путешествие по всему миру. Например, как в данном случае, из частных домов в Северной Америке, Европе и Азии — на серверы iRobot в Массачусетсе, потом в Scale AI в Сан-Франциско и, наконец, к «специалистам по аннотации данных» из разных стран третьего мира. А уже от них — на компьютеры вообще любых пользователей, состоящих в нужных частных группах в соцсетях, в Discord и в Telegram.
Эти изображения раскрывают всю цепочку распространения данных — и разные точки, через которые может просачиваться личная информация. Точки, о существовании которых даже не подозревают многие потребители.
Кто увидит ваши фото
Для обработки огромных объемов данных, требуемых для обучения различных алгоритмов, нужна рабочая сила, и в большом количестве. Поэтому сейчас активно развивается сфера аннотации данных. Ожидается, что к 2030 году рыночная стоимость аннотаций данных достигнет 13,3 млрд долларов.
В основном эта область получила развитие из-за необходимости в обучении разных ИИ, используемых в беспилотных транспортных средствах. Десятки компаний пытаются выпустить свои полностью автономные робомобили: Tesla, Waymo, Ford, Uber, Volkswagen, GM Cruise и другие. И все они нуждаются в людях, которые подсказали бы роботам, где пешеход, где его тень, где твердый отбойник, где цветочная клумба, а где кусок мусора на асфальте.
Чаще всего «специалисты по маркировке данных» являются просто низкооплачиваемыми наемными работниками из самых бедных стран.
И именно на них сейчас держатся сервисы и продукты, которые мы считаем «автоматизированными». В том числе в Интернете. Они удаляют запрещенный контент из социальных сетей, вручную классифицируя и помечая сообщения; улучшают ПО для распознавания голоса, расшифровывая низкокачественный звук. Ну и, конечно, помогают роботам-пылесосам распознавать окружающие предметы, помечая их в фотографиях и видео.
Полезно знать, что такие люди существуют и что «полностью анонимного» ИИ, который ещё и хорошо бы работал, в мире пока нет. Сотрудники часто работают на фрилансе или на коротких контрактах, заставить всех молчать — нереально. Как минимум, они постоянно общаются друг с другом в группах в соцсетях, обсуждая задержку платежей, делясь советами, рассказывая о самых высокооплачиваемых заданиях или запрашивая помощь в маркировке сложных объектов.
В этом случае с роботом, сфотографировавшим женщину в туалете, «специалист по маркировке данных» на самом деле не пытался никого обидеть. Он даже по собственной инициативе попытался сохранить ее конфиденциальность, нанеся на её лицо черный круг.
Правда, ни на каких других изображениях личности не были скрыты — ни самими маркировщиками данных, ни встроенным в пылесос ИИ, ни серверами iRobot, ни компанией-обработчиком данных Scale AI. В данном случае этот человек был единственным, кто хоть как-то подумал о приватности тайно заснятых людей.
Пылесос картинки Вектор для бесплатного скачивания
очистка так. очистить
Набор для чистки графика
спрей силуэт значок
Спрей бутылку силуэт
ведро воды сладкий
Уборка дома
cd принтер ноутбук
Бесплатные технологии векторов
Синий пылесос
инструменты электрические электронные
Vacuum_cleaner
мультфильм главная страница электрические
Пылесос
мальчик метловище мультфильм
Молодая Домработница мальчик с метлы
спрей ведро голубой
Clean Services Vectors
активный блеск привлекательный
5 charming female
автомобиль значок регистрация
Car Wash Vector Icons
вакуум очиститель инструмент
Пылесос вертикально
Пылесос Бесплатные стоковые фотографии, изображения и картинки Пылесос
Откройте для себя неограниченное количество изображений пылесосов с высоким разрешением и стоковых изображений для коммерческого использования.
Молодая женщина в наушниках держит пылесос и притворяется, что играет на электрогитаре, изолированной на белом
Милый маленький мальчик играет с разноцветными блоками и смотрит на беременную мать, чистящую ковер пылесосом изолированные на белом
Усталая молодая женщина чистит ковер пылесосом, изолированным на белом
Вид сверху на молодую женщину, чистящую пол пылесосом
Милый афроамериканский ребенок помогает матери пылесосить белый ковер
Пылесос возле журнального столика и дивана с перьевой тряпкой гостиная
Обрезанный вид женщины в джинсах, чистящей ковер пылесосом
Обрезанный вид автомойщика, пылесосящего водительское сиденье в машине
Домохозяйка, держащая пылесос и сидящая дома на желтом диване
Обрезанный вид уборщика, держащего щетку пылесоса с горячим паром возле ковра
Пылесос на ковре возле современного дивана в гостиной
Профессиональный ремонтник чинит пылесос
Красивый мужчина в современной гостиной улыбается и убирает дом пылесосом
Улыбающийся уборщик в униформе смотрит в камеру рядом с афроамериканским коллегой с пылесосом
Обрезанный вид молодого уборщика в кресле химчистки с современным пылесосом
Измученная афроамериканка спит на диване, держа в руках стержень пылесоса
Красивый мужчина с открытым ртом, использующий пылесос в гостиной
Измученная женщина с пылесосом, лежащая на диване и касающаяся головы
Коллаж улыбающейся чувственной девушки, использующей пылесос и щетка для пыли дома
Крупный план человека, чистящего белый ковер профессиональным пылесосом
Молодой профессиональный работник клининговой компании с помощью пылесоса
Обрезанный вид мужчины, чистящего ковер в гостиной пылесосом
Усталая домохозяйка сидит на желтом диване рядом с пылесосом
Обрезанный вид уборщика, моющего подушку на современном кресле с пылесосом
Мать с пылесосом смотрит на счастливую дочь в резиновые перчатки жестикулируют
Улыбающаяся семья с чистящими средствами, стоящими в гостиной
Афроамериканские уборщики в униформе с чистящими средствами смотрят на камеру, изолированную на белом
Молодой человек в кепке и комбинезоне убирает пыль с дивана с помощью пылесоса и тряпки для уборки
Милый ребенок с закрытыми глазами и протянутой рукой поет с пылесосом в гостиной
Избирательный фокус уборочной тележки с домочадцами в современной гостиной
Избирательный фокус женщины с пылесосом, ссорящейся с бойфрендом, держащим пульт на диване
Робот-пылесос на полу рядом с размытой парой в гостиной
Панорамный снимок пылесоса на обивке дивана
Молодая улыбающаяся горничная в униформе с помощью пылесоса
Улыбающийся подросток моет пол пылесосом в гостиной
Вид под высоким углом на человека, держащего щетку пылесоса, сидя дома на диване
Избирательный фокус робота-пылесоса, моющего ковер рядом с мужчиной, смотрящим фильм, и женщиной, использующей ноутбук в гостиной
Обрезанный вид ребенка со смартфоном и матерью рядом с роботом-пылесосом на полу в гостиной
Веселый уборщик в кепке сидит на кровати и разговаривает по смартфону рядом с пылесосом
Крупный план чистки белого ковра профессиональным пылесосом
Избирательный фокус счастливого человека, убирающего квартиру пылесосом
Пожилой мужчина читает на диване, пока социальный работник пылесосит комнату
Улыбающийся афро-американский уборщик держит щетку для пылесоса рядом с командой мультикультурных коллег
Молодой человек использует пылесос и чистит ковер дома
Межрасовые уборщики улыбаются во время разговора в офисе
Молодой человек смотрит на сломанный пылесос и чинит его дома
Уборщик в униформе и резиновых перчатках с пылесосом, изолированным на белом
Возбужденная семья смотрит в камеру возле робота-пылесоса дома
Счастливый молодой уборщик в кепке и комбинезоне держит пылесос и разговаривает по смартфону
Робот-пылесос сфотографировал женщину, сидящую на сиденье унитаза, и разместил ее в Facebook
Роботы-пылесосы сделали жизнь более управляемой.
Большинство этих устройств полагаются на механические датчики, оптические датчики и специализированное программное обеспечение для выполнения своих задач.
Большинство из них также имеют подключение к Интернету, как видеодомофоны и веб-камеры.
Они отслеживают и записывают окружение и личные действия пользователя, чтобы повысить качество их использования.
Согласно статье в журнале Fortune, робот-пылесос сделал фотографии женщины, сидящей на унитазе, и изображения в конечном итоге попали в социальные сети.
Утечка произошла от компании, предоставляющей услуги искусственного интеллекта (ИИ), что вызвало предупреждения профессионалов отрасли об опасностях установки таких устройств в доме.
На фотографии, сделанной в 2020 году, но просочившейся в 2019 году, изображена женщина в фиолетовой футболке, сидящая на унитазе в шортах, спущенных до середины бедер.
Согласно Fortune, фотографии были отправлены в Scale AI, стартап, который сотрудничает с предприятиями по всему миру для идентификации аудио, изображений и видео для обучения искусственного интеллекта.
Женщина вызвалась протестировать новейшую модель робота-пылесоса.
Тем временем компания заявила, что сообщила участникам, как будут использоваться их данные, и что все ее модели роботов имеют вкладки «Идет запись».
В отчете Fortune говорится, что после взлома iRobot разорвал отношения с третьей стороной и начал выяснять, что произошло.
Компания iRobot выпустила пресс-релиз, в котором говорится, что она «очень серьезно относится к конфиденциальности и безопасности данных не только в отношении своих клиентов, но и во всех аспектах своего бизнеса, включая исследования и разработки».
