Пылесосы следят за тобой, анон! Скандал с Roomba из-за фото женщины в туалете и новый взгляд на разработку ИИ / Хабр
Осенью 2020 года фрилансеры в Венесуэле разместили серию изображений на онлайн-форумах, где они общались, обсуждая свои рабочие дела. На фотографиях были запечатлены домашние сцены, в том числе довольно интимные, снятые с низких ракурсов. На одном особенно показательном кадре молодая женщина в бледно-лиловой футболке сидела на унитазе с шортами спущенными до середины бедра.
Все эти изображения были сделаны не скрытой камерой и не человеком, ворвавшимся в чей-то дом. Они принадлежали одной из версий робота-пылесоса iRobot Roomba серии J7. Оказалось, что фотографии от пылесоса автоматически отправляются в стартап Scale AI, который нанимает сотрудников из бедных стран для маркировки аудио-, фото- и видеоданных, используемых для обучения искусственного интеллекта. А потом эти сотрудники при желании делятся этими данными друг с другом (и со всем Интернетом).
Всего в MIT Technology Review получили 15 таких снимков.
Все они — частные, из обычной жизни людей: играющие на полу дети, кухни, спальные комнаты, ванные и туалеты. Самой приватной была та серия кадров с молодой женщиной на унитазе. Ее лицо было скрыто на главном изображении, но не было скрыто на третьем снимке из прокрутки кадров ниже. На другой серии снимков было видно мальчика восьми-девяти лет, растянувшегося на животе на полу в коридоре. Он с явным удовольствием смотрит на объект, записывающий его чуть ниже уровня глаз.
Из других снимков можно узнать, как живут люди во многих домах по всему миру. Мебель, декор и предметы, расположенные высоко на стенах и потолках, часто обведены прямоугольниками и снабжены надписями вроде «телевизор», «растение», «книга» или «светильник».
iRobot — крупнейший в мире поставщик роботов-пылесосов, которого недавно купила Amazon за $1,7 млрд, — подтвердил MIT, что эти изображения были сделаны их роботами Roomba в 2020 году. Как говорит компания, «они были переданы партнерам, которые подписали письменные соглашения, подтверждающие, что данные никогда не будут разглашены».
По словам iRobot, эти устройства при покупке всегда помечены ярко-зеленой наклейкой с надписью «Может производить видеозапись». А конкретно эти новые модели выдавались платным сборщикам данных, чтобы протестировать систему ИИ. Эти люди по контракту должны были «удалить все, что они считают конфиденциальным (включая детей), из любого пространства, в котором работает робот». То есть, по оценке iRobot, любой, чьи фото или видео появлялись в стримах, соглашался на то, чтобы их роботы-пылесосы их снимали.
Конечно, звучит успокаивающе. Если мы не подпишем такой контракт, наши данные в Сеть утекать не будут! Но на деле потребители регулярно соглашаются на отслеживание своих данных на различных устройствах, от айфонов до стиральных машин. Мало кто разбирается в политиках конфиденциальности и вчитывается во все расплывчатые формулировки (будем честны, я такое последний раз делал лет 10 назад). Достаточно поставить галочку напротив нужной формы. А потом, оказывается, ваше голое тело, фотографии ваших детей и интерьеры вашей квартиры будут обсуждаться на форумах в Венесуэле или на Филиппинах.
ИИ, требующие большие объемы фото- и видеоданных, появляются во всё новых бытовых товарах. Чаще всего в них заложены модели машинного обучения, анализирующие наши голоса, лица, интерьеры и другую личную информацию, чтобы улучшать работу устройства. Роботы-пылесосы начинают эффективнее двигаться по комнатам, очки Oculus — точнее понимать, в каком положении сейчас находится ваша голова. Но личная приватность при этом, оказывается, страдает сильнее, чем многие подозревали. Как минимум, мало кто думает, что «ИИ» в итоге отсылает сделанные фото реальным людям на обработку.
Не спрятаться, не скрыться
Если подумать, роботы-пылесосы — идеальные шпионы и сборщики секретных данных. Они могут разъезжать по твоему дому, и у тебя нет возможности это контролировать. И они снимают даже то, что может быть не видно человеческому глазу. Особенно это касается продвинутых устройств с передовыми камерами и искусственным интеллектом, таких как Roomba J7.
Мы буквально относимся к машинам по-другому, чем к людям.
Психологически гораздо проще находиться рядом с симпатичным маленьким роботом. Он может заезжать к вам в туалет или фотографировать ваших детей. Мы не ощущаем его как кого-то, кто ходит по вашему дому с камерой. Хотя именно это и происходит. Данные из робота транслируются на облачное хранилище, а потом идут в компанию изготовителя для анализа.
После этого информация обрабатывается и используется для улучшения работы пылесосов, а также для создания куда более умных роботов, которые однажды смогут взять на себя вообще все ваши домашние дела.
Хотя и сейчас просто «пылесосами» назвать такие девайсы уже язык не поворачивается. Новейшими роботами Roomba можно управлять голосом через Google Nest и Amazon Alexa, и они распознают более 80 отдельных домашних предметов.
Но чтобы они ещё точнее понимали, что находится вокруг них, нужно сделать наборы данных, приходящие на серверы, понятными и полезными для машинного обучения. А для этого какие-то люди должны сначала просмотреть, классифицировать, пометить и добавить контекст к каждому биту данных.
Этот процесс называется «аннотацией данных».
А в конце этого процесса всегда где-то сидит группа людей — обычно в комнате без окон, — которые просто наводят и щелкают мышкой по деталям картинки «Да, это объект» или «Нет, это не объект». И они, будьте уверены, очень пристально изучают изображения, которые получают компании с камер в вашем доме.
Избавиться от такой процедуры на данном этапе нельзя. Есть очень много нестандартной мебели, разных странных предметов в домах. Нельзя предсказать всё, с чем встретятся роботы. Безопасный ли это объект, можно ли по нему проехать? Или это вообще пыль, которую нужно убрать? Часто встречаются носки, брошенные трусы, какие-то кабели. Но даже кабели могут выглядеть по-разному в Европе, в США и в Китае! Поэтому какой-то человек в итоге должен смотреть на реальные фото, чтобы тренировать систему.
15 фото, которые раскопали MIT Technology Review, — это всего лишь крошечная доля масштабной, многомиллиардной экосистемы внешней обработки данных.
Никто не делает такое внутри фирм: на это просто нет ресурсов и времени. iRobot открыто заявила Wall Street Journal, что она поделилась 2 миллионами своих изображений со Scale AI и еще десятком других платформ аннотирования данных. В данном случае утечка произошла от нескольких фрилансеров, работавших со Scale AI.
Этот набор изображений — лишь малая толика того, что на самом деле просматривается каждый день. И проблема здесь не только в отдельной компании или отдельном девайсе. Всё шире распространяется и развивается практика обмена потенциально конфиденциальными данными — для более быстрого обучения алгоритмов. В итоге снимки совершают удивительное путешествие по всему миру. Например, как в данном случае, из частных домов в Северной Америке, Европе и Азии — на серверы iRobot в Массачусетсе, потом в Scale AI в Сан-Франциско и, наконец, к «специалистам по аннотации данных» из разных стран третьего мира. А уже от них — на компьютеры вообще любых пользователей, состоящих в нужных частных группах в соцсетях, в Discord и в Telegram.
Эти изображения раскрывают всю цепочку распространения данных — и разные точки, через которые может просачиваться личная информация. Точки, о существовании которых даже не подозревают многие потребители.
Кто увидит ваши фото
Для обработки огромных объемов данных, требуемых для обучения различных алгоритмов, нужна рабочая сила, и в большом количестве. Поэтому сейчас активно развивается сфера аннотации данных. Ожидается, что к 2030 году рыночная стоимость аннотаций данных достигнет 13,3 млрд долларов.
В основном эта область получила развитие из-за необходимости в обучении разных ИИ, используемых в беспилотных транспортных средствах. Десятки компаний пытаются выпустить свои полностью автономные робомобили: Tesla, Waymo, Ford, Uber, Volkswagen, GM Cruise и другие. И все они нуждаются в людях, которые подсказали бы роботам, где пешеход, где его тень, где твердый отбойник, где цветочная клумба, а где кусок мусора на асфальте.
Чаще всего «специалисты по маркировке данных» являются просто низкооплачиваемыми наемными работниками из самых бедных стран.
И именно на них сейчас держатся сервисы и продукты, которые мы считаем «автоматизированными». В том числе в Интернете. Они удаляют запрещенный контент из социальных сетей, вручную классифицируя и помечая сообщения; улучшают ПО для распознавания голоса, расшифровывая низкокачественный звук. Ну и, конечно, помогают роботам-пылесосам распознавать окружающие предметы, помечая их в фотографиях и видео.
Полезно знать, что такие люди существуют и что «полностью анонимного» ИИ, который ещё и хорошо бы работал, в мире пока нет. Сотрудники часто работают на фрилансе или на коротких контрактах, заставить всех молчать — нереально. Как минимум, они постоянно общаются друг с другом в группах в соцсетях, обсуждая задержку платежей, делясь советами, рассказывая о самых высокооплачиваемых заданиях или запрашивая помощь в маркировке сложных объектов.
В этом случае с роботом, сфотографировавшим женщину в туалете, «специалист по маркировке данных» на самом деле не пытался никого обидеть. Он даже по собственной инициативе попытался сохранить ее конфиденциальность, нанеся на её лицо черный круг.
Правда, ни на каких других изображениях личности не были скрыты — ни самими маркировщиками данных, ни встроенным в пылесос ИИ, ни серверами iRobot, ни компанией-обработчиком данных Scale AI. В данном случае этот человек был единственным, кто хоть как-то подумал о приватности тайно заснятых людей.
Основные критерии выбора пылесоса
Интересное PR
Многие современные модели пылесосов комплектуются сепараторными водными фильтрами
Фото: allo.ua
Важные аспекты при выборе пылесоса – мощность и объем пылесборника.
Рано или поздно у владельца квартиры или частного дома возникает необходимость приобретения пылесоса. Купить пылесос – значит, обеспечить дома чистоту и свежесть, избавить пространство жилья от микроскопических вредителей и пыли.
Основным техническим параметром современного пылесоса является мощность. Относительно мощности профильные эксперты разделяют пылесосы на следующие категории:
-
350 аэроВт – отличный выбор для уборки гладких поверхностей, например линолеума или паркета.
Превосходно подойдет и для уборки плитки; -
400 аэроВт – пылесосы такой мощности отлично подойдут для подключения турбощеток и улучшенного качества всасывания и очистки поверхностей;
-
450 аэроВт – превосходный выбор для уборки ковровых и шерстяных поверхностей. Приобретайте такие мощные пылесосы, если у вас в квартире еще остались бабушкины ковры;
-
550 аэроВт – такие пылесосы комплектуются продвинутыми системами водяной очистки и функциями моющих пылесосов, в том числе подходящих для уборки ковровых и шерстяных поверхностей;
-
650 аэроВт – такие пылесосы отлично подходят для глубокой моющей очистки домашней мебели;
-
700 аэроВт – профессиональные модели пылесосов, которые превосходно подходят для глубокой очистки фактически всех поверхностей в помещении, используются клининговыми службами или приобретаются для больших частных или загородных домов.
Превосходно подойдет и для уборки плитки;
Фото: allo.ua
Важный аспект – объем пылесборника в пылесосе. Он напрямую влияет на номинальную мощность пылесоса, так как с постепенным наполнением мешка возрастает и нагрузка на двигатель, что снижает общую мощность работы пылесоса. Для нивелирования таких спадов мощности многие современные модели пылесосов комплектуются сепараторными водными фильтрами. Мощность таких пылесосов стабильна, независимо от наполненности пылесборника.
Теги: покупки
Добавить комментарий
ПУБЛИКАЦИИ
все публикации→
Финансовая помощь украинцам во время войны. Какие фонды выплачивают и как получить G
Новые тарифы на электричество. Насколько вырастет сумма в платежках украинцев и как сэкономить? G
Ободзинский, потерявший семью из-за российского авиаудара: Месяцев через пять мне рассказали: дочь нашли в ванной, жену с сыном – где кухня была, а внуков-близнецов – в 70 метрах от дома G
Выбор редакции
САМЫЕ ПОПУЛЯРНЫЕ МАТЕРИАЛЫ
Как быстро справиться со стрессом в критической обстановке.
Советы психолога
Популярно в Бульваре
Изобретение пылесоса, от гужевого до высокотехнологичного
Домашние дела — неотъемлемая часть повседневной жизни. Но само собой разумеющиеся технологии, такие как скромный пылесос, навсегда изменили уборку в наших домах.
О чем вы думаете, когда думаете о работе по дому? Вы, вероятно, представляете, как загружаете стиральную машину, развешиваете белье, моете посуду или пылесосите.
Многие из основных инструментов, используемых для уборки на протяжении всей истории, были бы знакомы нам и сегодня, от тряпок до метел, щеток и ведер. Но совсем недавно технологические решения для домашней пыли и грязи, такие как пылесос, изменили наши представления о том, что на самом деле означает «чистота».
Природа не терпит пустоты. И я тоже.
Энн Гиббонс
Изобретение пылесоса
В 1901 году, если вам повезет, вы можете стать свидетелем поразительной сцены на улицах Лондона, которая быстро изменит то, как большинство из нас убирает дома.
Впервые нанятый Maudslay, Sons and Field в Ламбете в 1890-х годах, в то время он был более известен проектированием подвесных мостов и ярмарочных колес обозрения (включая знаменитый венский Riesenrad).
Но в 1901 году он обратил свое мастерство на чистку ковров после того, как стал свидетелем демонстрации новой машины в лондонском Empire Music Hall.
Он понял, что у выставленной машины был фатальный недостаток. Он был разработан для выдувания воздуха в надежде поднять пыль с ковра в мешок для сбора. Изобретатель сказал ему, что предложенный Бутом метод — всасывание грязи через фильтр — невозможен.
Вызов принят, Бут приступил к созданию машины, которая будет сосать, а не дуть.
После предположительно почти смертельных испытаний, в ходе которых он задохнулся после того, как надел носовой платок «фильтр» на рот и высосал пыль из подлокотника стула, Бут основал British Vacuum Cleaner Company и выпустил свое новое устройство.
Оригинальный пылесос на тележке Booth, поставленный Королевскому военно-морскому колледжу, Осборн, около 1905 г.
Групповая коллекция Музея науки Больше информации об оригинальном пылесосе на тележке Booth, поставленном Королевскому военно-морскому колледжу, Осборн, около 1905 г.Первый пылесос в действии
По словам журналистки и писательницы Джейн Фернивал, воплощая эстетику красно-золотой пожарной машины, характерный пылесос, запряженный лошадьми, и его операторы в ливреях прибыли к вашему дому, немедленно сообщив соседям, что вы проводите «вакуумное чаепитие». . Визит стоил недешево — стоил столько же, сколько годовой заработок «подростка», младшей домашней горничной.
Для проведения чудодейственной уборки через окна были пропущены длинные шланги, запущен бензиновый мотор (а позже и электродвигатель) и всасыванием воздуха из шланга и форсунок через фильтр.
Местных жителей снаружи поощряли восхищаться количеством грязи и пыли, собираемых через специальную стеклянную камеру сбоку машины — еще одна хитрая маркетинговая стратегия.
Пылесос как роскошь
После шквала неодобрения и череды судебных дел, как против нарушений, вызванных машиной на улицах (включая устрашение лошадей), так и против ряда недовольных изобретателей, Бут наконец убедил судью и присяжных, что его мощная машина была единственной пылесос в то время реально работал.
Уборка повсюду, от Букингемского дворца до Королевского монетного двора и Хрустального дворца, где во время вспышки пятнистой лихорадки во время Первой мировой войны с балок было удалено 26 тонн пыли.
Групповая коллекция Музея науки Хрустальный дворец в Сиденхеме, 1854 год — огромное пространство для уборки Пылесосы были приобретены русским царем Николаем II, немецким кайзером Вильгельмом II, Палатой общин и популярным лондонским универмагом Dickens & Jones.
Несмотря на драматизм и театральность машины Бута, основная технология и принцип всасывания были такими же, как и в большинстве современных пылесосов. Пылесосы вскоре стали меньше, портативнее и, что самое главное, дешевле. Пылесосы меньшего размера с приводом от двигателя, известные от Hoover и Electrolux, начали появляться до 19 года.15.
Для более состоятельных домохозяйств ежегодная эвакуация, чтобы слуги могли закончить весеннюю уборку, ушла в прошлое. Богатые домовладельцы купили новые пылесосы, желая, чтобы их считали первыми, кто внедрил эту технологию, или стремясь сохранить домашнюю помощь, которой стало мало из-за Первой мировой войны.
Групповая коллекция Музея науки Плакат, рекламирующий компанию Booth’s British Vacuum Cleaning Company Ltd, 1906 г.Пылесос для масс
Британская ассоциация пылесоса со словом «Пылесос» произошла от рекламной стратегии американской компании и доминирования на британском рынке.
Насадки для пылесоса Hoover модели 700, ок. 1930 г.
Групповая коллекция Музея науки Больше информации о насадках для пылесоса Hoover модель 700, 1930 г.Его изобретение, возможно, стало первым по-настоящему практичным бытовым пылесосом. Огромный британский завод компании Hoover, построенный в Перивейле недалеко от Уэмбли в 1930-х годах, производил элегантные машины, которые понравились современному потребителю.
Вальтер Нюрнберг / Групповая коллекция Музея науки Испытания пылесосов на ковровом покрытии на заводе Hoover, Перивейл, 1948 г. Учитывая высокие затраты, связанные с приобретением новых электроприборов, а также отсутствие электроснабжения, большинство людей продолжали чистить свои ковры, коврики и шторы более традиционным низкотехнологичным способом вплоть до окончания Второй мировой войны.
Многие домохозяева 1950-х годов все еще отождествляли бы себя с описанием чистки ковров мисс Кирби викторианской горничной: вооружившись совком, набором ручных щеток и щеткой для подметания с длинной ручкой, вы «просто встали на руки и колени и почистили».
Модели пылесосов
Пылесосы 20 века в нашей коллекции:
Пылесос Hoover, 1919
Групповая коллекция Музея наукиПылесос для дыхательных путей, около 1930 г.
Групповая коллекция Музея наукиПылесос Hoover ‘Junior’, 1936 г.
Групповая коллекция Музея науки Пылесос и насадки производства National Utilities Ltd, Манчестер, ок. 19 г.30–1945 гг. Групповая коллекция Музея наукиПылесос Hoover Constellation космической эры, 1956 год.
Групповая коллекция Музея науки Пылесос Hoover Dustette, модель 100, 1964 г.
Циклонный пылесос G-Force, разработанный Джеймсом Дайсоном и командой дизайнеров Apex Inc. и изготовленный Apex Inc., Япония, 1985–1990
Групповая коллекция Музея наукиБудущее пылесоса
Появление бытовых электроприборов в конце 19-го века дало домовладельцам представление о будущем, наполненном отдыхом, и меньше рутинной работы для прислуги и помощников по дому.
Постепенно появились механические чистящие средства для ковров, стиральные и сушильные машины, электрические или газовые утюги и посудомоечные машины, а совсем недавно к ним присоединились интеллектуальные и роботизированные технологии. Но, несмотря на эти средства экономии времени и труда, домохозяйства тратят на работу по дому примерно столько же времени, сколько и 100 лет назад.
Вотенубоз / CC BY-SA 4.0 Источник изображения для робота-пылесоса Circular и смартфона Робот-пылесос iRobot Roomba Почему? Свою роль сыграли такие факторы, как ожидаемые более высокие стандарты гигиены, количество загрузок белья и увеличение времени, которое мы тратим на домашние дела, такие как уход за домашними животными и детьми.
Работа может быть менее физической, но мы делаем ее столько же. И, несмотря на некоторые изменения в распределении обязанностей по дому, женщины по-прежнему выполняют ее больше, чем мужчины.
Итак, подарит ли нам, наконец, давно обещанное будущее R&R нынешнее множество умных бытовых приборов и гаджетов — от роботов-пылесосов до самоочищающихся окон и духовок? Время покажет.
Узнать больше
Книги
- Адриан Сорок, Объекты желания: дизайн и общество с 1750 года , 1986
- Джейн Фернивал, Соси, не дуй , 1998
- Сёкей Мацумото, Путеводитель монаха по чистоте дома и разума , 2018
- Рози Кокс, Роуз Джордж, Р. Х. Хорн, Робин Нэгл, Элизабет Пизани, Брайан Ральф и Вирджиния Смит, Грязь: грязная реальность повседневной жизни , 2011
- Сьюзен Штрассер, Never Done: A History of American Housework , 2000
Больше объектов и историй
интимных фотографий, сделанных роботами-пылесосами, просочились в сеть
Даже если вы не специалист в области технологий, у вас наверняка есть несколько «умных» устройств дома.
Пылесос, лучший друг каждой современной домохозяйки, вероятно, является одним из них. Робот-пылесос может подметать полы, поднимать пыль, шерсть домашних животных — но также и ваши данные.
Политика конфиденциальности большинства помощников по гудению гласит, что производитель может собирать информацию от вас для улучшения своих продуктов и услуг, если вы согласитесь. Но кто не хочет, чтобы их пылесос стал лучше, уклоняясь от собачьих какашек, проводов и выполняя другие цирковые трюки типа не застрять под кроватью? И кто вообще читает политику конфиденциальности, прежде чем нажать «принять»? Кроме того, может сложиться впечатление, что собранные данные будет обрабатывать беспристрастный алгоритм или, по крайней мере, что эти данные останутся у производителя, а не разлетятся по всему интернету — так что беспокоиться не о чем.
iSpy: как робот-пылесос слил интимные фото
Но это предположение верно лишь отчасти. Хотя ИИ определенно находится на пути к замене человека, он еще не готов.
В прошлом месяце MIT Technology Review сообщил, что ведущий производитель роботов-пылесосов iRobot нанял сторонних подрядчиков для просеивания и маркировки необработанных данных, собранных экспериментальной версией робота Roomba серии j7. iRobot поделился данными со стартапом Scale AI, который, в свою очередь, поделился ими с независимыми субподрядчиками из Венесуэлы, которые, в свою очередь, поделились ими в… Facebook и Discord.
Этим низкооплачиваемым работникам было поручено маркировать мебель и другие предметы, заснятые камерами Roomba. Большинство из 15 изображений, полученных MIT Technology Review из частных групп в социальных сетях, были совершенно безобидными: на них были изображены дверные проемы, полки, кухонные шкафы, светильники, столешницы и т. д. Но несколько фотографий были гораздо более убийственными. Серия снимков, сделанных с разных ракурсов, показала женщину, сидящую на сиденье унитаза — на некоторых кадрах отчетливо видно ее лицо. На другом изображении изображен ребенок, растянувшийся на полу и смотрящий прямо в камеру, его лицо также не размыто.
Утечка привела к поиску виноватых. iRobot обвинил Scale AI в нарушении контракта, позволив опубликовать изображения. Scale AI, со своей стороны, обвинил венесуэльских рабочих в нарушении их контрактов.
Можно утверждать, что iRobot стал жертвой недобросовестного субподрядчика. Действительно, если бы лейблеры не допустили ошибку, разместив фотографии в социальных сетях, ничего бы не всплыло. Но проблема гораздо глубже, чем кучка краудсорсинговых работников, которым еще предстоит осознать концепцию конфиденциальности — речь идет о том, как много компаний, занимающихся технологиями данных, получают от нас и с кем они ими делятся.
Вопрос о согласии
В свою защиту iRobot заявила, что модель, на которую были сделаны компрометирующие изображения, не продавалась в магазинах, а лишь распространялась среди «платных коллекционеров и сотрудников». По словам iRobot, все эти люди дали согласие на использование их данных, включая видео, для обучения ИИ. iRobot, однако, не сказал, знали ли добровольцы, что их личные данные будут видны другим людям.
В форме согласия упоминалось только, что данные будут переданы «поставщики услуг», согласно MIT Review.
iRobot признался, что поделился визуальными данными, собранными его пылесосами — всего более 2 миллионов изображений — с несколькими подрядчиками, а не только с Scale AI. По словам iRobot, перед передачей данных он отфильтровывает изображения, на которых пользователь обнажен или иным образом скомпрометирован. Однако компания не сообщила, почему изображение женщины в туалете не было удалено.
Что ваш пылесос знает о вас
iRobot утверждает, что не шпионит за обычными потребителями. Но технически ничто не мешает ему собирать большие объемы точной информации из домов ничего не подозревающих пользователей.
Во-первых, роботы-пылесосы собирают эти данные, когда составляют карту вашего дома — это включает в себя составление подробной карты всех комнат в вашем доме во время первоначальной уборки. Карта помогает роботу понять расположение комнат, чтобы он не убирал одно и то же место дважды и не натыкался на углы.
Чем совершеннее картографическая технология, тем точнее карта и тем эффективнее очистка. В случае с моделью iRobot j7 пылесос может собирать эти данные благодаря фронтальной камере с искусственным интеллектом, что является шагом вперед по сравнению с технологией картографирования на основе гироскопа и акселерометра, используемой в более дешевых моделях. Оснащение камерой не только дает роботу-пылесосу преимущество перед его слепыми конкурентами, но и несет в себе очевидные риски для конфиденциальности, поскольку теперь он может видеть, что происходит вокруг, и делать фотографии.
Таким образом, модель iRobot Roomba j7+ может сама распознавать и фотографировать отходы домашних животных и кабели и делиться ими с приложением для смартфона, если вы согласитесь. Вы также можете разрешить обмен своими данными с iRobot; в этом случае изображения будут зашифрованы и отправлены в компанию, где их изучат сотрудники-люди. Что касается изображений людей, то программное обеспечение пылесоса должно автоматически отключать камеру, если в поле зрения попадает человек или фотография человека.
Но, как видно из отчета MIT Review, меры безопасности не всегда работают.
Фото: YoonJae Baik/Unsplash
Более того, как говорится, аппетит (к данным) приходит во время еды, вернее, в данном случае пылесосить и мыть пол.
Существующая технология позволяет роботам-пылесосам получать ценную информацию о вашей жизни, которая может пригодиться третьим лицам, например, рекламодателям. И дело не только в размере вашего дома, в том, есть ли у вас две спальни или одна, или есть ли у вас домашний питомец, который какает повсюду — хотя, это уже, пожалуй, больше, чем вы хотите, чтобы посторонние узнали. Пылесос также может получать информацию о вашем распорядке дня. С iRobot OS, облачной операционной системой для роботов-пылесосов, вы можете настроить пылесос iRobot так, чтобы он автоматически начинал уборку, когда вы выходите из дома, и останавливался, когда вы возвращаетесь. Робот также может быть сопряжен с голосовыми помощниками, такими как Amazon Alexa, Apple Siri и Google Assistant, чтобы он реагировал на ваши голосовые команды.
Поскольку ОС iRobot основана на облаке, вся эта информация потенциально может быть доступна мошенническим сотрудникам или передана третьим лицам, например правоохранительным органам. А количество информации, которую могут собрать роботы-пылесосы, просто впечатляет. Генеральный директор iRobot Колин Энгл рассказал Verge в мае, что пылесосы j7 на сегодняшний день обнаружили более 43 миллионов объектов в домах людей и научились идентифицировать и избегать 80 отдельных объектов. Это в основном означает, что производитель сидит на сокровищнице данных. Вопрос в том, откроет ли он ее и для кого?
Amazon и iRobot — союз, заключенный в аду конфиденциальности?
Возможно, не случайно, когда iRobot улучшил свою навигационную систему и обновил облачное программное обеспечение, это вызвало интерес у Amazon. В августе этого года компании подписали соглашение о слиянии, согласно которому Amazon заплатит за iRobot 1,7 миллиарда долларов. Сделка, которая еще не одобрена регулирующими органами, вызвала бурю недовольства конфиденциальностью.
Ряд организаций по защите данных, в том числе Electronic Frontier Foundation, призвали регулирующий орган США сорвать сделку, утверждая, что потенциальное слияние данных Amazon и iRobot может привести к «ставить под угрозу конфиденциальность потребителей».
«Связывание устройств iRobot с и без того навязчивой домашней системой Amazon стимулирует сбор большего количества данных с более подключенных домашних устройств, потенциально включая личные данные о наших привычках и нашем здоровье, которые могут поставить под угрозу права человека и безопасность», — говорится в письме .
На самом деле iRobot обдумывал идею обмена данными с Big Tech задолго до того, как остановился на Amazon. В 2017 году генеральный директор iRobot Энгл заявил, что его компания может делиться картами домов клиентов бесплатно с такими компаниями, как Amazon, Apple и Google, с согласия клиента в будущем.
Следует отметить, что предстоящее приобретение Amazon компании iRobot является лишь частью более крупной и довольно тревожной тенденции.
В прошлом году Google купила компанию по отслеживанию фитнеса Fitbit за 2,1 миллиарда долларов, что вызвало аналогичные опасения по поводу конфиденциальности. В конце концов, Google согласился хранить данные Fitibit отдельно и не использовать их для рекламы Google в течение как минимум 10 лет, чтобы сделка по приобретению прошла проверку в Европейской комиссии. Стоит ли доверять Google в этом — решать вам, но, как показывает история, его обещания в отношении конфиденциальности не высечены на камне
Датчики становятся лучше — проблемы с конфиденциальностью становятся хуже
Наряду с роботами-пылесосами на базе камеры существуют также роботы на основе лазера, которые используют вращающийся невидимый лазер для сбора подробной информации о размерах комнат и препятствиях. Эта передовая технология называется LiDAR , что означает «обнаружение света и определение дальности», и считается «золотым стандартом навигации для пылесосов» . Лазерные роботы, как правило, более точны, чем их аналоги с камерой, и, как правило, намного быстрее.
И хотя они не могут захватить столько визуальных данных, они также представляют угрозу конфиденциальности, хотя и другого характера.
Исследователи обнаружили, что устройства, использующие LIDAR, могут быть взломаны для сбора аудиоданных из дома. Несмотря на то, что в них не установлены физические микрофоны, эти роботы-пылесосы могут быть перепрофилированы «для слежения за разговорами и потенциального раскрытия личной информации», пришли к выводу исследователи из Университета Мэриленда и Сингапура. В статье под названием Шпионаж с помощью робота-пылесоса: подслушивание с помощью лидарных датчиков исследователи описали, как они использовали пылесос Xiaomi Roborock для успешной записи речи и музыки с более чем 90% точность.
Фото: Елена Можвило/ Unsplash
Можно с уверенностью предположить, что со временем датчики будут становиться лучше, поскольку требования к большей точности и эффективности при очистке будут только возрастать. Кто хочет, чтобы его пылесос спотыкался о шнуры, таранил собачью миску или разбрасывал экскременты домашних животных? Это означает, что способность пылесосов собирать данные из домов также увеличится.
Кроме того, для большей точности производители могут рассмотреть возможность установки сразу нескольких камер (например, потолочной и фронтальной) или использовать для навигации и лазер, и камеру — это потенциально позволит им собирать еще больше данных.
Уравновешивание рисков
Устройства, подключенные к Интернету, представляют серьезную угрозу конфиденциальности, и роботы-пылесосы не являются исключением. Дело в том, что, в отличие от голосовых помощников и умных дверных звонков, которые являются стационарными устройствами, пылесосы могут двигаться и в некоторых случаях делать снимки внутри вашего дома. Что делает их еще более опасными с точки зрения конфиденциальности.
Хотя производители могут заверить вас, что они принимают все меры предосторожности, чтобы не допустить утечки конфиденциальной информации о пользователях, меры безопасности могут не сработать, как мы видели в случае с Roomba. Вот почему выбор часто стоит между конфиденциальностью, безопасностью, с одной стороны, и удобством, с другой.
Самый безопасный для конфиденциальности вариант — «заглушить» ваш умный дом и заменить робот-пылесос старым добрым сетевым пылесосом, который вам нужно будет вручную подключить к розетке и волочить по полу. Несмотря на то, что этот вариант обеспечивает конфиденциальность и экономичность, он вряд ли экономит труд или время. И если вы готовы пожертвовать частью своей конфиденциальности и безопасности ради удобства, вы должны осознавать риски и следовать некоторым основным правилам:
Выбирайте надежных поставщиков с послепродажной поддержкой, чтобы ваши данные не подвергались риску потенциального надзора
Прочтите политику конфиденциальности и Условия предоставления услуг (ToS) и внимательно отметьте настройки конфиденциальности — хотя некоторые функции могут не работать, если вы не согласитесь на определенный уровень обмена данными, не соглашайтесь на больший объем данных, чем это необходимо для работы вашего устройства.
Обычно мы рекомендуем использовать DNS-фильтрацию, чтобы заблокировать доступ к рекламным серверам и сайтам отслеживания.
