Прошло почти три месяца с тех пор, как многие сотрудники Google, а также общественность узнали о решении компании предоставить искусственный интеллект в спорную военную программу, известную как Project Maven, которая направлена на ускорение анализа отснятого материала, используя автоматическую классификацию изображений объектов и людей. Теперь около десятка сотрудников Google подают в отставку в знак протеста против продолжения участия компании в Maven.
Разочарование сотрудников варьируются от конкретных этических соображений по поводу использования искусственного интеллекта в беспилотных войнах до более широких забот о политических решениях Google и эрозии доверия пользователей, которое может быть результатом этих действий. Многие из них написали отчеты о своих решениях покинуть компанию, а их рассказы были собраны и распространены во внутреннем документе, содержание которого несколько источников сообщает Gizmodo.
Сотрудники, которые уходят в отставку в знак протеста, говорят, что руководители стали менее прозрачными в своей рабочей среде по поводу спорных бизнес-решений и, как представляется, менее заинтересованы в том, чтобы слушать возражения сотрудников, как они делали ранее. В случае с Maven, Google помогает Министерству обороны внедрять машинное обучение для классификации изображений, собранных беспилотными летательными аппаратами. Но некоторые сотрудники считают, что люди, а не алгоритмы, несут ответственность за эту чувствительную и потенциально смертельную работу, и что Google вообще не должен участвовать в военных программах.
Исторически Google продвигала открытую культуру, которая побуждает сотрудников бросать вызов и обсуждать решения о продуктах. Но некоторые сотрудники считают, что их руководство больше не так внимательно относится к их проблемам, ставя их перед лицом последствий. «За последние пару месяцев меня все меньше и меньше впечатлял ответ и то, как к людям относятся и заботятся», - сказал один сотрудник, который подал в отставку.
В дополнение к отставкам почти 4 000 сотрудников Google заявили о своем негативном отношении к проекту Maven во внутреннем ходатайстве, которое просит Google немедленно отменить контракт и разработать политику против будущей военной работы.
Тем не менее, растущее давление со стороны сотрудников, похоже, мало повлияло на решение Google - компания защитила свою работу над Maven и считается одним из ведущих претендентов на другой крупный контракт на облачные вычисления в Пентагоне, совместную инфраструктуру защиты предприятий, больше известный как JEDI , который в настоящее время подходит для ставок.
Требования сотрудников, которые Google игнорирует своим контрактом в Пентагоне, также осложняются тем фактом, что Google утверждает, что он предоставляет программное обеспечение с открытым исходным кодом для Project Maven, что означает, что военные смогут использовать эту технологию, даже если Google примет решение не оплачивать за работу.
Тем не менее, уходящие в отставку сотрудники считают, что работа Google над Maven в корне противоречит принципам добросовестности компании. «Это не похоже на то, что Google - это небольшой стартап для машинного обучения, который пытается найти клиентов в разных отраслях», - сказал отставной сотрудник. «Похоже, для репутации Google имеет смысл оставаться в стороне от этого».
Многие сотрудники Google впервые узнали, что компания работает над Maven, когда информация о спорном проекте начало распространяться по США в конце февраля. В то время представитель Google сказал Gizmodo, что компания разрабатывает «политику и гарантии» вокруг использования машинного обучения, но этот политический документ еще не появился, говорят источники.
Google подчеркнул, что его ИИ не используется для убийств, но использование искусственного интеллекта в беспилотной программе Пентагона по-прежнему вызывает сложные этические и моральные проблемы для технических работников и для ученых, изучающих область машинного обучения.
В дополнение к ходатайству, циркулирующему внутри Google, Коалиция технических работников запустила петицию в апреле, требуя от Google отказаться от своей работы над Maven и другими крупными технологическими компаниями, включая IBM и Amazon, отказаться от работы с Министерством обороны США.
«Мы больше не можем игнорировать вредные пристрастия нашей промышленности и наших технологий, масштабные нарушения доверия и отсутствие этических гарантий», - говорится в петиции. «Это вопрос жизни и смерти».
Сегодня более 90 ученых в области искусственного интеллекта, этики и информатики выпустили открытое письмо, в котором содержится призыв к Google прекратить работу над проектом Maven и поддержать международный договор, запрещающий автономные системы оружия. Питер Асаро и Люси Сучман, двое из авторов письма, засвидетельствовали перед Организацией Объединенных Наций об автономном оружии; третий автор, Лилли Ирини, является профессором науки и бывшим сотрудником Google.
Вклад Google в проект Maven может ускорить разработку полностью автономного оружия, сказала Сучман Gizmodo. Хотя Google базируется в США, она обязана защищать свою глобальную пользовательскую базу, которая перевешивает ее соответствие с военными любой отдельной страны, сказала она.
«Если этические действия со стороны технических компаний требуют рассмотрения тех, кто может воспользоваться технологией и кому может быть причинен вред, тогда мы с уверенностью можем сказать, что ни одна тема не заслуживает более трезвого отражения - ни одна технология не имеет более высоких ставок, чем алгоритмы, предназначенные для убийства на расстоянии и без публичной ответственности », - говорится в письме. «Google перешел на военную работу, не подвергая себя публичным дебатам или обсуждениям, будь то внутри страны или на международном уровне. Хотя Google регулярно решает будущее технологий без демократического участия общественности, его внедрение в военные технологии ставит проблемы частного контроля информационной инфраструктуры на более высокий уровень».
Руководители Google прилагают усилия для защиты проекта Maven от сотрудников. На собрании вскоре после того, как проект стал общедоступным, генеральный директор Google Cloud Дайан Грин выступила в поддержку проекта Maven, сообщили в нескольких источниках Gizmodo. Совсем недавно Грин и другие сотрудники провели несколько встреч для обсуждения проекта. На этих встречах выступали ораторы, которые поддерживали и противостояли Maven и подчеркивали сложность разработки политики в отношении этического использования машинного обучения, пояснил участник.
Существуют и другие репутационные проблемы, связанные с принятием решений сотрудниками покинуть Google. Недавняя политическая волна компании, как и ее спонсорство Консервативной политической конференции действий и ее борьба за решение проблем внутреннего разнообразия , также сыграла свою роль.
