| Публикации |
500 сотрудников украинского офиса стартапа из США Ring обвиняют в нарушении прав конфиденциальности частной жизни тысяч клиентов компании по всему миру.По данным издания The Intercept, сотрудники украинского офиса компании Ring получили бесконтрольный доступ к видеофайлам и учетным данным клиентов компании. Делалось это для улучшения системы распознавания лиц и объектов на видеозаписи.
"Начиная с 2016 года, по словам одного из источников, Ring предоставляла своей украинской группе исследователей и разработчиков беспрепятственный доступ к папке в облачном сервисе Amazon S3, в которой содержится каждое видео, созданное каждой камерой Ring по всему миру", — говорится в статье американского журналиста Сэма Биддла.
При этом компания не скрывает, что украинцы "вручную" учат нейросеть Ring распознавать объекты, однако отрицает, что делает это без согласия клиентов.
Несмотря на это, материал Биддла спровоцировал немалый резонанс в ведущих нишевых мировых и украинских СМИ.
"Экономическая правда" разобралась, насколько обвинения соответствуют действительности и есть ли криминал в действиях украинских IT-специалистов.
Ring — это стартап, основанный в 2011 году Джейме Симиноффым в Южной Калифорнии. Главным продуктом стартапа стал "умный" дверной звонок, который имеет Wi-Fi-подключение и камеру. С помощью звонка Ring пользователь, даже находясь не дома, может отслеживать посетителей у двери и общаться с ними.
У компании также есть сервис Neighbors ("Соседи"), который позволяет людям обмениваться и комментировать информацию о безопасности района. В приложении можно найти множество видео, снятых устройствами от Ring. Эти данные должны помочь полиции быстрее раскрывать преступления и предотвращать их, считают разработчики.
Продукт очень успешен: в 2016 году Ring продал устройств на 155 млн долл. К началу 2018 года стартап привлек 209 млн долл инвестиций. Тогда же компания Amazon купила Ring за 1 млрд долл.
Украинский R&D-центр Ring открылся в 2016 году. Киевская лаборатория Ring Labs занимается разработкой софта в области машинного обучения, компьютерного зрения, интеллектуального анализа данных.
По данным сайта украинского Ring Labs, в стране на американскую компанию работает более 500 человек. При этом сама компания Ring не упоминает, что у нее есть офис R&D в Киеве.
Несмотря на свою миссию — обеспечивать безопасность людей и их имущества, компания обращалась с видеопотоками клиентов совсем не так, как того требует миссия, пишет журналист издания The Intercept.
Он ссылается на сведения от некого анонимного источника, знакомого с внутренней деятельностью Ring.
Источник утверждает, что с 2016 года Ring предоставляла своей украинской группе исследователей беспрепятственный доступ к папке в облачном сервисе Amazon S3, в которой содержится каждое видео, созданное каждой камерой Ring по всему миру.
"Для загрузки и обмена этими видеофайлами требовалось чуть больше, чем клик", — пишет журналист.
По словам источника, когда сотрудникам украинского офиса предоставили доступ к облачному сервису, видеофайлы оставались незашифрованными. Руководство Ring "чувствовало, что шифрование сделает компанию менее ценной" из-за затрат на внедрение шифрования и потери возможностей получения дохода из-за ограниченного доступа.
"Украинской команде также была предоставлена база данных, которая связывала каждый конкретный видеофайл с соответствующим конкретным клиентом Ring", — пишет журналист.
По данным издания, компания дала доступ к видео большому числу разработчиков из-за недостатков своей системы распознавания лиц и объектов. Разработчики ПО Ring годами боролись с проблемами распознавания объектов и, как пишет журналист, боролись без особого успеха.
Согласно последнему информационному отчету, пользователи регулярно жаловались в службу поддержки клиентов на получение предупреждений, когда у их входной двери ничего не происходило. Вместо этого система обнаруживала проезжающий на улице автомобиль или лист, падающий с дерева во дворе.
Чтобы ускорить процесс развития системы, Ring использовал работу людей, которые распознавали объекты вручную.
The Intercept пишет, что операторы занимались ручной маркировкой объектов в рамках обучения системы компьютерного распознавания, но компания продолжает нанимать для этого людей даже спустя несколько лет.
При этом пользователи могут считать, что эта работа выполняется автоматически, и у них могут быть вопросы к тому, что их личные данные доступны сторонним людям, отмечает Mashable.
Впрочем, киевский офис Ring не скрывает, что набирает людей, "которые будут отвечать за маркировку объектов на видео".
"Вы должны быть в состоянии распознать и пометить все движущиеся объекты на видео с высокой точностью", — описывают задачу на английском языке представители украинского подразделения американского стартапа.
В то же время, это лишь одна из более 40 вакансий, многие из которых напрямую не связаны с маркировкой видео.
Издание Mashable также обращает внимание, что это не первый случай, когда компания использует людей для выполнения того, что клиент может обоснованно считать автоматизированной задачей.
В конце 2017 года выяснилось, что компания Expensify, занимающаяся разработкой программного обеспечения для управления расходами, использовала так называемые механические турки (Mechanical Turk) для маркировки некоторых клиентских квитанций.
Для основателя IT Elevator Ярослава Корца история с маркировкой объектов на видео компании Ring не стала новостью. По его словам, технология нейросетей (искусственный интеллект. — ЭП) такова, что для начала полноценной работы нейросети ей нужно "скормить" массив изображений, размеченных людьми.
Этот массив называется Data Set. Только после этого нейросеть начинает автоматически обрабатывать фото.
Подобный тезис озвучил на Киевском международном экономическом форуме корпоративный вице-президент Microsoft направления ИИ Стив Гуггенхаймер.
[BANNER1]"Когда люди в фильмах видят роботов, они думают, что это искусственный интеллект. На самом деле искусственный интеллект — это набор статистических моделей, которые натренированы для анализа и классификации данных", — заявил он.
Однако у IT-специалистов все же остались вопросы к компании Ring.
Во-первых, они считают, что компания не имела права учить нейросеть на основе данных клиентов.
Во-вторых, фирма не имела права отправлять личные данные клиентов в Украину.
В-третьих, возникает вопрос, почему компания обучает нейросеть уже два года.
Руководитель PR-службы Ring Ukraine Мария Дзюбина в публичной переписке на Facebook отказалась комментировать статью The Intercept, поэтому ЭП публикует комментарий представителя Ring, предоставленный зарубежному изданию Gizmodo 15 января.
"Мы очень серьезно относимся к конфиденциальности и безопасности личной информации наших клиентов. Чтобы улучшить наш сервис, мы просматриваем и аннотируем определенные видеозаписи Ring.
Эти записи получены исключительно из общедоступных видео Ring: из приложения "Соседи" (в соответствии с нашими условиями предоставления услуг) и от небольшой части пользователей Ring, которые дали свое явное письменное согласие на то, чтобы мы могли просматривать и использовать их видео для таких целей. Сотрудники Ring не имеют доступа к прямой трансляции от продуктов Ring.
У нас есть строгие правила для всех членов нашей команды. Мы внедряем системы для ограничения и аудита доступа к информации. Мы обеспечиваем в нашей команде высокие этические стандарты, и любой, кто нарушает наши правила, сталкивается с дисциплинарной ответственностью, включая увольнение и возможные юридические и уголовные санкции".