Рассылка новостей
Подпишитесь на еженедельную рассылку от #Transforma1
Первая платформа
о трансформации российского бизнеса
Тренды

Руководство по этике для работников сферы технологий было переписано /WIRED/

Источник: WIRED

  • В 2018 году Кремниевая долина попала в собственную ловушку. Граждане беспокоились за конфиденциальность своих данных, исследователи били тревогу по поводу искусственного интеллекта (ИИ), и даже представители крупнейших компаний в сфере технологий восстали против зависимости от мобильных приложений. Тем временем директивные органы, похоже, вновь захотели отстраниться от технологических гигантов после того, как череда слушаний в Конгрессе поставила руководителей в затруднительное положение в том, что касается производимых ими продуктов

  • Программисты по всему миру жаждут понять непредвиденные последствия своих собственных творений. Так, компания Omidyar Network — «благотворительная инвестиционная фирма», созданная основателем eBay Пьером Омидьяром, — намеревалась помочь им в этом. С помощью фирмы Tech and Society Solutions Lab она выпустила инструментарий EthicalOS (оперативная система Ethical), чтобы научить лидеров тех-сообщества заранее продумывать влияние своих продуктов

  • Два года спустя кое-что всё же изменилось. Но ведущую роль в этом сыграли не руководители, а простые рабочие — инженеры, дизайнеры, менеджеры по продуктам. Именно они громче всех ратовали за реформы в своей отрасли. Поэтому, когда для Omidyar Network пришло время обновить свой инструментарий, стало ясно, что нужна новая целевая аудитория. «Мы поняли, как сильно изменилась ситуация, — сказала Сара Дринкуотер, директор направления Beneficial Technology. — Мы твердо верим, что именно рабочие спровоцируют перемены, а не лидеры»

  • Теперь у Omidyar Network есть новый набор инструментов, предназначенный для того, чтобы работники в области технологий могли говорить о том, как их продукты формируют общество, демократию и многое другое

  • Так называемый инструмент Ethical Explorer Pack охватывает многие из тех же идей и вопросов, что и EthicalOS, но при этом он содержит доп. руководство о том, как работникам лучше поднимать эти вопросы в своих командах: выявлять «сигналы опасности» на раннем этапе, устраивать мозговые штурмы для решения потенциальных проблем или установить границы вокруг таких тем как контроль данных, наблюдение или дезинформация. Этот инструмент, который можно скачать бесплатно онлайн или приобрести в виде физической колоды карт, содержит упражнения, задания и подсказки, которые можно использовать как поодиночке, так и для обсуждения в группе

  • Ethical Explorer Pack позволяет компаниям задуматься о том, какие социальные и культурные воздействия имеют их размышления об активности пользователей или о прибыли. Некоторые компании в Кремниевой долине даже сформировали внутреннюю корпоративную позицию для того, чтобы сосредоточиться на этих проблемах, например, Отдел этики и гуманных разработок Salesforce. (Директора по этике и гуманным разработкам Salesforce, Полу Голдман, переманили из Omidyar Network; она помогла создать оригинальный EthicalOS)

  • Были разработаны и другие наборы инструментов с целью помочь людям глубже исследовать конкретные проблемы, к примеру, Data Ethics Canvas от Института открытых данных. Однако Дринкуотер утверждает, что ресурсов было недостаточно для того, чтобы помочь рядовым сотрудникам поднять вопрос этики в своих же командах

  • В последние несколько лет работники индустрии технологий стали более откровенны в обсуждении продуктов и политики своих работодателей. В 2018 году тысячи сотрудников Google подписали петицию против участия компании в проекте Maven — противоречивой военной программе по использованию ИИ для съемок с беспилотников. Такая негативная реакция вынудила Google не возобновлять контракт с Пентагоном и создать этический кодекс для использования ИИ

  • Прошлой осенью сотрудники Amazon устроили забастовку, требуя от компании предпринять дополнительные шаги для борьбы с изменением климата, что привело к ряду инициатив в области устойчивого развития. Совсем недавно сотни людей протестовали против условий труда на предприятиях Amazon во время пандемии. Даже неудачные протесты способны привлечь внимание к ИТ-компаниям и вызвать общественное порицание. Генеральный директор Facebook Марк Цукерберг твердо решил не смягчать на платформе политические речи (в частности, выступления Дональда Трампа), даже после виртуальной забастовки сотни сотрудников, устроенной в прошлом месяце; теперь сотни рекламодателей заявляют, что они бойкотируют Facebook из-за разжигания ненависти и дезинформации

  • И хотя эти дискуссии велись преимущественно среди гигантов технологической индустрии, Дринкуотер утверждает, что они не менее важны и для небольших компаний и зарождающих стартапов, которые до сих пор продолжают формировать свои этические принципы. Эти стартапы могут сами однажды стать крупными компаниями, и окажутся в тупике куда раньше, чем им кажется. (Возьмем, к примеру, Clubhouse — любимицу Кремниевой долины, которая недавно привлекла внимание пользователей и многих технических журналистов из-за отсутствия протокола о борьбе с притеснениями)

  • Таким образом, Ethical Explorer Pack предназначен для использования в качестве ресурса, чтобы любой в ИТ-компании мог задуматься о потенциальных проблемах задолго до того, как они станут проблемами

  • Этот инструментарий включает «путеводитель» для навигации по восьми зонам риска: наблюдение, дезинформация, исключение, алгоритмическое смещение, зависимость, контроль данных, проблемные сотрудники и чрезмерная власть. Существует также колода карт с подсказками, каждая из которых связана, по крайней мере, с одной из зон риска, которые, скажем, инженер или дизайнер могут поднять для обсуждения во время совещаний или держать в уме во время работы

  • Как мы решили, кем будет наша целевая аудитория, и какую выгоду мы можем извлечь из большего ее разнообразия? Может ли наша технология непреднамеренно преувеличить или развить существующие предубеждения? Какие еще инструменты необходимо рассмотреть, чтобы помочь всем нашим пользователям чувствовать себя в безопасности? Некоторые подсказки кажутся элементарными («Какие данные пользователей мы собираем?»), другие — чересчур сложными («Каким образом можно использовать наши технологии, чтобы подорвать доверие к общественным институтам?»). Однако Дринкуотер считает, что в процессе создания продукта такими вопросами все еще задаются не сразу и не часто

  • Сара имеет кое-какой опыт в вопросах разногласия: она проработала в Google почти семь лет, включая стажировку в Google Maps. Она вспоминает, как однажды высказывала озабоченность по поводу предстоящего выпуска одной новой функциональной возможности, — какой именно, Сара сказать не может, — но ей не удалось убедить свою команду в том, что проблема была реальной

  • Продукт в итоге увидел свет. «Счастливый выдался денек для прессы, и новую функцию все же пришлось удалить», — рассказывает Дринкуотер. Оглядываясь на этот опыт, она полагает, что ей бы пригодился тогда шаблон для обдумывания этических проблем в работе над тем продуктом. «Мы знаем, что эти вопросы беспокоят многих работников в области технологий, и мы знаем, что они готовы их обсуждать, — говорит Сара. — Я уверена, если бы под это создали отдельную структуру, то они бы поняли, что не одиноки»

  • Для некоторых сотрудников Ethical Explorer Pack может поднять такие вопросы, которые они никогда и не обсуждали. Другим такие подсказки могут помочь в укреплении их идей, которые раньше они опасались выдвигать. «Людям может казаться, что они портят другим радость, что препятствуют созданию крутых инноваций», — говорит Дринкуотер

  • Инструментарий включает в себя несколько иллюстративных формулировок для того, чтобы довести тот или иной вопрос и до руководителей, и до коллег. Этого может быть недостаточно, чтобы заручиться всеобщим участием, когда этические проблемы идут вразрез с важнейшими аспектами бизнеса, или когда решается высказаться только один социально притесненный сотрудник. Тем не менее, такой инструментарий побуждает рабочих высказывать свое мнение на языке Кремниевой долины. Не спешить обдумывать потенциальные последствия равносильно тому, чтобы не спешить отладить код программы. Когда-нибудь этот инструмент спасет многие стартапы от головной боли или чего-то похлеще