1С редактирование общих данных запрещено: Изменение ставки рефинансирования ЦБ

Большая часть экономики данных, лежащей в основе обычных продуктов и услуг, невидима для покупателей. По мере того, как ваши данные передаются между бесчисленным количеством третьих лиц, появляется не только больше компаний, получающих прибыль от ваших данных, но и больше возможностей для утечки или взлома ваших данных таким образом, что причиняет реальный вред. Только за последний год мы видели, как новостное издание использовало псевдонимные данные приложения, предположительно просочившиеся от рекламодателя, связанного с приложением для знакомств Grindr, чтобы разоблачить священника. Мы читали о том, что правительство США покупает данные о местоположении у молитвенного приложения. Исследователи обнаружили, что приложения для лечения опиоидной зависимости обмениваются конфиденциальными данными. А в T-Mobile недавно произошла утечка данных, которая затронула как минимум 40 миллионов человек, у некоторых из которых даже никогда не было учетной записи T-Mobile.

«У нас есть эти компании, которые накапливают просто гигантские объемы данных о каждом из нас, весь день, каждый день», — сказала Кейт Руан, старший советник по законодательным вопросам по Первой поправке и конфиденциальности потребителей в Американском союзе гражданских свобод. . Руан также указал, что данные в конечном итоге используются неожиданным образом — намеренно или нет, — например, для таргетинга рекламы или корректировки процентных ставок в зависимости от расы. «Ваши данные берутся и используются во вред».

Законы о конфиденциальности данных потребителей могут дать людям право контролировать свои данные, но при ненадлежащем исполнении такие законы также могут сохранить статус-кво. — Мы можем это остановить, — продолжил Руан. «Мы можем создать лучший Интернет, лучший мир, в котором будет больше защиты конфиденциальности».

Что (не) делают действующие национальные законы о конфиденциальности

В настоящее время законы о конфиденциальности представляют собой беспорядочную смесь различных отраслевых правил. «Исторически сложилось так, что в США существует множество разрозненных федеральных [и государственных] законов», — сказала Эми Степанович, исполнительный директор Silicon Flatirons Center в Colorado Law. «[Они] либо смотрят на определенные типы данных, такие как кредитные данные или информацию о здоровье, — сказал Степанович, — либо смотрят на определенные группы населения, такие как дети, и регулируют в этих сферах».

В Соединенных Штатах нет единого закона, регулирующего конфиденциальность всех типов данных. Вместо этого в нем есть набор законов, которые обозначаются такими аббревиатурами, как HIPAA, FCRA, FERPA, GLBA, ECPA, COPPA и VPPA.

Данные, собираемые подавляющим большинством продуктов, которые люди используют каждый день, не регулируются. Поскольку федеральных законов о конфиденциальности, регулирующих многие компании, нет, они практически вольны делать с данными все, что хотят, если только в штате нет собственного закона о конфиденциальности данных (подробнее об этом ниже).

• В большинстве штатов компании могут использовать, делиться или продавать любые данные, которые они собирают о вас, не уведомляя вас об этом.
• Никакое национальное законодательство не устанавливает, когда (или если) компания должна уведомлять вас, если ваши данные взломаны или раскрыты неуполномоченным сторонам.
• Если компания передает ваши данные, включая конфиденциальную информацию, такую ​​как ваше здоровье или местонахождение, третьим лицам (например, брокерам данных), эти третьи лица могут в дальнейшем продавать или передавать их без уведомления вас.

«Большинство людей верят, что они защищены, пока это не оказывается таковым», — сказал Ашкан Солтани, независимый исследователь и бывший главный технолог Федеральной торговой комиссии. «К сожалению, поскольку эта экосистема в основном скрыта от глаз и непрозрачна, потребители не могут видеть и понимать поток информации».

Всеобъемлющий европейский закон о конфиденциальности, Общий регламент по защите данных (GDPR), требует от компаний запрашивать некоторые разрешения на обмен данными и дает отдельным лицам права доступа, удаления или контроля над использованием этих данных. В Соединенных Штатах, напротив, нет единого закона, регулирующего конфиденциальность всех типов данных. Вместо этого в нем есть набор законов, обозначаемых такими аббревиатурами, как HIPAA, FCRA, FERPA, GLBA, ECPA, COPPA и VPPA, предназначенных для обработки только определенных типов данных в особых (часто устаревших) обстоятельствах.

• Закон о переносимости и подотчетности медицинского страхования (HIPAA) имеет мало общего с конфиденциальностью и распространяется только на общение между вами и «застрахованными организациями», к которым относятся врачи, больницы, аптеки, страховые компании и другие подобные предприятия. Люди склонны думать, что HIPAA охватывает все данные о здоровье, но это не так. Например, ваши данные Fitbit не защищены, и закон не ограничивает, кто может запрашивать ваш статус прививки от COVID-19.
• Закон о достоверной кредитной отчетности (FCRA) распространяется на информацию, содержащуюся в вашем кредитном отчете. Он ограничивает круг лиц, которым разрешено просматривать кредитный отчет, информацию, которую могут собирать бюро кредитных историй, и способы получения информации.
• Закон о правах семьи на образование и неприкосновенность частной жизни (FERPA) подробно описывает, кто может запрашивать документы об образовании учащихся. Это включает в себя предоставление родителям, правомочным учащимся и другим школам права проверять документы об образовании, которые ведет школа.
• Закон Грэмма-Лича-Блайли (GLBA) требует, чтобы потребительские финансовые продукты, такие как кредитные услуги или услуги инвестиционного консультирования, объясняли, как они обмениваются данными, а также право клиента на отказ. Закон не ограничивает использование компаниями собираемых ими данных, если они заранее сообщают о таком использовании. По крайней мере, он пытается защитить некоторые личные данные.
• Закон о конфиденциальности электронных коммуникаций (ECPA) ограничивает прослушивание телефонных разговоров и других электронных сигналов государственными органами (хотя Закон США о патриотизме многое изменил). Он также устанавливает общие правила, касающиеся того, как работодатели могут отслеживать общение сотрудников. Критики часто отмечают, что ECPA, принятый в 1986 году, устарел. Поскольку ECPA был написан задолго до появления современного Интернета, он не защищает от современных тактик наблюдения, таких как доступ правоохранительных органов к старым данным, хранящимся на серверах, в документах облачного хранилища и в поисковых запросах.
• Правило защиты конфиденциальности детей в Интернете (COPPA) налагает определенные ограничения на сбор компанией данных о детях младше 13 лет.
• Закон о защите конфиденциальности видео (VPPA) запрещает раскрытие записей об аренде видеокассет. Сейчас этот закон может показаться глупым, но он был принят после того, как журналист вытащил видеопрокат кандидата в Верховный суд Роберта Борка. Однако VPPA не устояла против стриминговых компаний.
• Закон о Федеральной торговой комиссии (Закон о Федеральной торговой комиссии) уполномочивает Федеральную торговую комиссию преследовать приложение или веб-сайт, которые нарушают ее собственную политику конфиденциальности. FTC также может расследовать нарушения маркетинговых формулировок, связанных с конфиденциальностью, как это было, когда она подала жалобу на Zoom за обман пользователей, заявив, что видеочаты были зашифрованы сквозным шифрованием. Некоторые группы также недавно призвали Федеральную торговую комиссию распространить эту власть на неправомерные действия с данными.

Среди множества различных законов легко увидеть, как люди путаются в том, какие права у них есть, а какие нет. Чтобы добавить к этому, наряду с этими федеральными законами также есть несколько законов штатов.

Всего в трех штатах действуют всеобъемлющие законы о конфиденциальности данных

В настоящее время в трех штатах США действуют три различных всеобъемлющих закона о конфиденциальности потребителей: Калифорния (CCPA и его поправка, CPRA), Вирджиния (VCDPA) и Колорадо (ColoPA). . Независимо от того, в каком штате находится компания, права, предусмотренные законодательством, распространяются только на людей, проживающих в этих штатах.

«Многие положения подтверждают бизнес-модель. [VCDPA], по сути, позволяет компаниям, занимающимся сбором больших данных, продолжать делать то, что они делали раньше». — Кейт Руан, старший юрисконсульт Американского союза гражданских свобод

Эти законы имеют схожие положения, которые, как правило, дают вам определенное уведомление и возможность выбора в управлении вашими данными. По сути, компания, работающая в соответствии с этими правилами, должна сообщить вам, продает ли она ваши данные; у вас также есть выбор, согласны вы с этим или нет, и у вас есть право доступа, удаления, исправления или перемещения ваших данных. Эти законы немного отличаются в других аспектах, например, в разрешенных периодах исправления (количество времени, которое компания должна исправить ошибку), размере или уровне доходов предприятий, к которым применяется закон, а также в том, можете ли вы использовать инструменты или «уполномоченные агенты» для запросов на отказ (например, настройка в вашем веб-браузере, которая автоматически отключает вас от продажи данных на веб-странице, или служба, в которой другой человек делает запросы на отказ от вас).

Эксперты, с которыми мы разговаривали, назвали систему защиты конфиденциальности в Калифорнии самой надежной в США, поскольку правила включают ограниченное «частное право на иск» — возможность подать в суд на компанию — в отношении определенных типов утечек данных. Калифорния также требует «глобального отказа», чтобы отказаться от обмена данными с помощью устройства или браузера, вместо того, чтобы быть вынужденным отказаться на каждом сайте в отдельности. Напротив, некоторые из экспертов, с которыми мы беседовали, скептически отнеслись к Закону о защите данных потребителей штата Вирджиния. «Я бы посчитал [VCDPA] довольно слабым законопроектом», — сказал Руан из ACLU. «Это основано на согласии на отказ. Нет защиты гражданских прав. Частного права на иск нет. Многие положения подтверждают бизнес-модель. По сути, это позволяет компаниям, занимающимся сбором больших данных, продолжать делать то, что они делали раньше». Ничто из этого не должно вызывать удивления, учитывая, что закон Вирджинии был написан при активном участии Amazon.

По крайней мере еще четыре штата, Массачусетс, Нью-Йорк, Северная Каролина и Пенсильвания, прямо сейчас рассматривают серьезные комплексные предложения по конфиденциальности данных потребителей. В других штатах действуют различные законы на ранних стадиях. Может быть сложно отследить статус всех этих предложений, но у Международной ассоциации профессионалов в области конфиденциальности есть трекер, который показывает, в каких штатах действует законодательство о конфиденциальности и где эти законопроекты находятся в процессе. Согласно исследованию The Markup, по крайней мере 14 предложений аналогичны более слабому закону Вирджинии.

Как и в случае с национальными законами, существуют законы на уровне штатов, которые охватывают отдельные аспекты конфиденциальности данных. В штате Миссури действуют правила конфиденциальности электронных книг. Закон Иллинойса о конфиденциальности биометрической информации (BIPA) дает людям право на конфиденциальность их биометрических данных, таких как отпечатки пальцев или сканирование лица. Когда дело доходит до уведомлений об утечке данных, особенно сложно знать свои права, поскольку существует как минимум 54 различных закона, которые различаются в зависимости от региона.

Эми Степанович из Silicon Flatirons Center отметила, что такие государственные законы по-прежнему полезны, даже если они могут ввести в заблуждение. «Вы можете думать о них как о повышении уровня воды», — сказала она, добавив, что компании часто предпочитают «применять более сильные, более защитные стандарты по всем направлениям для всех», когда юридические стандарты повышаются.

Существует также риск того, что слишком много законов штатов создадут путаницу, как для компаний, так и для потребителей. Уитни Меррилл, поверенный в области конфиденциальности и сотрудник по защите данных, сказала, что федеральный закон упростит задачу для всех. «Нам нужен федеральный закон, который рассматривает вещи с гораздо более последовательным подходом, — сказал Меррилл, — чтобы убедиться, что потребители понимают и имеют правильные ожидания в отношении прав, которые они имеют в отношении своих данных».

Четыре области, которые заслуживают базовой защиты, по мнению экспертов по конфиденциальности

Все, с кем мы разговаривали, описывали потенциальные законы о конфиденциальности данных потребителей как «этаж», на котором можно было бы опираться на них в будущем по мере появления новых технологий. Этот уровень обычно включает в себя несколько основных средств защиты:

• Права на сбор и обмен данными : Законы должны давать людям право видеть, какие данные о них собрали различные компании, требовать, чтобы компании удаляли любые данные, которые они собрали, и для удобного переноса данных из одного сервиса в другой. Это также включает в себя право запретить компаниям продавать (или передавать) ваши данные третьим лицам. Чтобы получить представление о том, как такое регулирование работает на практике, мы рассмотрели, каково это запрашивать информацию в Калифорнии в соответствии с CCPA, которое, как правило, требует, чтобы вы щелкнули по крайней мере одну форму на каждом веб-сайте, с которым вы взаимодействуете (и для некоторых третьих лиц, о существовании которых вы можете даже не знать).
• Согласие на согласие: Компания должна спросить вас, может ли она передавать или продавать ваши данные третьим лицам. Вам не придется часами отказываться от сбора ваших личных данных через каждый сервис, которым вы пользуетесь.
• Минимизация данных: Компания должна собирать только то, что ей необходимо для предоставления услуги, которой вы пользуетесь.
• Недискриминация и отсутствие дискриминации в отношении использования данных: Компания не должна дискриминировать людей, осуществляющих свои права на неприкосновенность частной жизни; например, компания не может взимать с кого-то дополнительную плату за защиту их конфиденциальности, а компания не может предлагать клиентам скидки в обмен на то, что они откажутся от большего количества данных. Этот регламент также должен включать разъяснения о защите гражданских прав, например о предотвращении дискриминации рекламодателями определенных характеристик.

Компания Merrill также хотела бы видеть более полный закон об уведомлении об утечке данных, возможно, в виде отдельного законопроекта. «Я думаю, что это будет довольно легко пройти», — сказала она. «Кто получает уведомление? Каковы общие стандарты? Давайте упростим задачу, чтобы все были на одной волне».

«Особенно в тех штатах, где они не разрешают частное право [подавать в суд], чтобы затем также недофинансировать государственное правоприменение — это просто оскорбление». — Хейли Цукаяма, законодательный активист, Electronic Frontier Foundation

Отсутствие регулирования много значит без правоприменительного механизма. И лоббисты оспаривали «частное право на иск» — разрешение частному лицу подавать в суд на компанию за нарушение конфиденциальности — как один из таких механизмов. Законодательство Калифорнии имеет ограниченное частное право на иск, связанный с небрежностью в отношении утечки данных. В законах Колорадо и Вирджинии даже этого нет. Несколько законопроектов, в том числе в Коннектикуте, Флориде, Оклахоме и Вашингтоне, не стали законами, потому что они включали частное право на иск. В начале 2021 года законодатели Северной Дакоты представили законопроект, который включал частное право на действия и согласие на согласие, и в ответ группа рекламных компаний (PDF) заявила: «Такой подход приведет к созданию самого ограничительного закона о конфиденциальности в Соединенные Штаты.» Законопроект провалился в государственной палате.

Хейли Цукаяма, законодательный активист Electronic Frontier Foundation, резко описала ситуацию. «Мы хотели бы видеть в законодательстве о конфиденциальности полные права частных лиц», — сказала она. «Мы просто считаем, что если компания нарушает вашу конфиденциальность, вы должны иметь возможность подать на нее в суд».

«Исторически сложилось так, что маргинализированные сообщества не могли полагаться на государственные институты для защиты своих прав», — сказал Степанович. «Поэтому наличие чего-то вроде частного права на иск для чернокожих и других сообществ, не являющихся белыми, гарантирует, что они могут отстаивать свои права или обращаться в суд, если что-то пошло не так».

Солтани, напротив, видел путь вперед без частного права на иск: «Я думаю, что правоприменение — действительно важный аспект. Если есть адекватное правоприменение — юридическая защита и регулирующие ресурсы — я не думаю, что отказ от частного права на иск является нарушением условий сделки».

Эти ресурсы важны. «Особенно в тех штатах, где они не разрешают частное право [действовать], чтобы затем также недофинансировать государственное правоприменение — это просто оскорбление для раны», — сказал Цукаяма. Калифорния создала группу правоприменения только для этой цели под названием Калифорнийское агентство по защите конфиденциальности, которое будет получать 10 миллионов долларов ежегодного финансирования. Генеральная прокуратура штата Вирджиния занимается правоприменением там с финансированием в размере 400 000 долларов, дополненным штрафами и пенями.

Выбрасывание денег на правоприменение или требование от компаний адаптироваться к новым правилам также требует выполнения работы людьми, а эти люди не всегда легкодоступны. «Одна из моих проблем с законами штата заключается в том, что нужно учиться все больше и больше, — отметил Меррилл, — и я боюсь выгорания в сообществе конфиденциальности, потому что невозможно идти в ногу, а ставки очень высоки».

Интернет-ассоциация, отраслевая группа, представляющая несколько крупных технологических компаний, включая Amazon, Facebook и Google, указала нам на письмо и показания, отправленные в законодательный орган штата Нью-Джерси, в которых основное внимание уделяется двум пунктам: согласию и частному праву на иск. Ассоциация настаивает на том, чтобы текущая модель отказа от согласия сохраняла статус-кво, при котором потребители должны приложить все усилия, чтобы получить защиту конфиденциальности, изложенную в законе. Ассоциация также включила документ Института правовой реформы, филиала Торговой палаты США, который выступает за благоприятные для бизнеса правовые реформы, в котором утверждается, что частные судебные процессы будут препятствовать инновациям, будут стоить слишком много денег и приведут к противоречивым решениям.

Как более строгие законы о конфиденциальности изменят вашу повседневную жизнь

Если вы когда-либо нажимали на одно из этих надоедливых уведомлений о файлах cookie или были вынуждены прокручивать до конца политику конфиденциальности, прежде чем вы сможете использовать программное обеспечение, вы увидели, как такие законы могут иметь пагубное влияние на вашу повседневную жизнь.

Так быть не должно. Степанович сказал, что если закон о конфиденциальности написан хорошо, жизнь большинства людей не должна измениться. «Конфиденциальность заключается не в том, чтобы не использовать технологии, а в том, чтобы иметь возможность участвовать в жизни общества и знать, что вашими данными не будут злоупотреблять или что вы не причините вреда в будущем из-за этого», — сказала она. . Если все сделано правильно, последствия скандалов, подобных тем, что были вокруг Cambridge Analytica или Grindr, можно свести к минимуму. И вы увидите меньше персонализированной рекламы и больше контекстной, которая, возможно, менее пугающая (для чтения статьи требуется подписка).

Хорошо написанный закон о конфиденциальности данных облегчит вам покупку многих интересующих вас продуктов, не беспокоясь о конфиденциальности. Возможно, обзоры и руководства Wirecutter не потребуют подробных сравнений с оценкой политик конфиденциальности для работающих часов, умных весов или роботов-пылесосов, потому что все они будут иметь базовый уровень конфиденциальности, а также четкие, простые для понимания опции. -in правила обмена данными. И если компания ошибается и злоупотребляет этими правами на неприкосновенность частной жизни, эта компания будет нести ответственность за изменение.

Даже самые последние законы не учитывают всевозможные другие проблемы с данными, такие как прозрачность алгоритма или использование правительством системы распознавания лиц.

Одним из камнем преткновения нынешней системы отказа является усталость от уведомлений. Когда каждое приложение и веб-сайт запрашивает у вас десятки разрешений, становится проще принять статус-кво, чем вручную отказаться от каждой технологии отслеживания. Обзорная статья в журнале Science (PDF) в 2015 г. показала, насколько плохо большинство людей справились с рисками, связанными с конфиденциальностью, а в 2019 г.Газета описала своего рода согласие «уведомление и выбор», к которому все привыкли, как «метод регулирования конфиденциальности, который обещает прозрачность и свободу действий, но не дает ни того, ни другого».

Все эксперты, с которыми мы говорили, предпочли модель добровольного согласия и концепцию «конфиденциальность по умолчанию». Такая договоренность изначально сделает учетные записи закрытыми, а приложения не будут иметь никаких разрешений. Вы можете выбрать эти настройки. Наряду с правом подавать в суд на компании согласие на подписку оказывается одной из самых сложных вещей для включения в законы о конфиденциальности. Вместо этого эксперты настаивают на возможности использования расширений браузера или других инструментов, которые отключаются автоматически.

Ашкан Солтани, бывший главный технолог FTC, предложил техническое решение с глобальным контролем конфиденциальности (GPC), которое позволяет отказаться от продажи данных на уровне браузера или устройства — улучшение по сравнению с потребностью отказаться на каждом сайте или в каждом сервисе. В настоящее время GPC включен в несколько браузеров и пользуется уважением нескольких изданий, в том числе The New York Times. После того, как в 2023 году вступят в силу глобальные правила отказа от участия, в Калифорнии будут более четко требовать от компаний соблюдать GPC9.0003

Воздействие таких законов может даже обратить вспять отчаяние многих людей по поводу того, что «конфиденциальность мертва», как заметила Эми Степанович. «Вы хотите, чтобы эта безнадежность ушла, и чтобы люди знали: вы защищены, пока занимаетесь этим делом».

Основные законы о конфиденциальности, за которые выступают, которые предлагаются, а иногда и принимаются, не могут и не будут все исправлять. Учитывая сложность экономики данных, которая сейчас существует, можно и, возможно, нужно сделать гораздо больше. Даже самые последние законы не учитывают всевозможные другие проблемы с данными, такие как прозрачность алгоритмов или использование правительством системы распознавания лиц. Существует несколько национальных законов о конфиденциальности, находящихся на разных стадиях принятия, но ни один из них не имеет серьезных шансов быть принятым в ближайшее время.

Но новые законы могли бы, по крайней мере, поощрять продукты и услуги, менее враждебные конфиденциальности, и они могли бы обеспечить базовую защиту (и правоприменение) от наиболее вредоносных типов интеллектуального анализа данных, а также сформировать основу для большей защиты конфиденциальности в будущем. В лучшем случае закон о конфиденциальности данных может сделать так, чтобы вы могли покупать новейшие штуковины с забавными новыми функциями, не беспокоясь о том, что компания собирает больше данных, чем вы думаете, и продает их компаниям, о которых вы никогда не слышали. из которых будут использоваться рекламодателями для продажи вам.

Источники

1. Уитни Меррилл, адвокат по вопросам конфиденциальности и специалист по защите данных, телефонное интервью, 26 июля 2021 г.

2. Ашкан Солтани, независимый исследователь и бывший главный технолог Федеральной торговой комиссии, телефонное интервью, 21 июля 2021 г.

3. Кейт Руан, старший советник по вопросам Первой поправки и конфиденциальности прав потребителей в Американском союзе гражданских свобод, интервью по телефону, 21 июля 2021 г.

4. Эми Степанович, исполнительный директор Silicon Flatirons Center в Colorado Law, телефон интервью, 15 июля 2021 г.

5. Хейли Цукаяма, законодательный активист Electronic Frontier Foundation, интервью по телефону, 14 июля 2021 г.

• Интеллектуальный термостат Ecobee Smart Thermostat Premium, который мы выбрали, автоматизирует систему отопления и охлаждения вашего дома, чтобы обеспечить максимальный комфорт и эффективность.

  Лучший интеллектуальный термостат 

• После тестирования 35 фитнес-трекеров — в движении и в состоянии покоя — нам понравился надежный, простой в использовании и многофункциональный Fitbit Charge 5.

  Лучшие фитнес-трекеры

• Проехав более 500 миль с 18 часами, мы пришли к выводу, что Coros Pace 2 и Garmin Forerunner 255 лучше всего подходят большинству бегунов.

  Лучшие часы для бега с GPS Мы обнаружили, что Wyze Scale X и его приложение — отличные инструменты для автоматического отслеживания веса.

  Лучшие интеллектуальные весы 

• Робот-пылесос может очистить ваш дом от мусора, шерсти домашних животных и пыли, не прилагая особых усилий с вашей стороны (некоторые даже убираются сами). Вот шесть, которые мы рекомендуем.

  Лучшие вакуумы робота

Дополнительное чтение

• Лучшая служба VPN

  от David Huerta и Yael Grauer

  A Virtual Private (VPN и ALER Private Way To Private Private Way A. A Acement A. A Aceers Private Way To Private Way To Private Way To A. A Aceers A. A Aceers Private Way To Private Way To Private Way. в определенных ситуациях, но трудно найти заслуживающего доверия.

Wirecutter — служба рекомендаций по продуктам от The New York Times. Наши журналисты сочетают независимое исследование с (иногда) чрезмерным тестированием, чтобы вы могли быстро и уверенно принимать решения о покупке. Будь то поиск отличных продуктов или полезных советов, мы поможем вам сделать это правильно (с первого раза).

• About Wirecutter
• Our team
• Staff demographics
• Jobs at Wirecutter
• Contact us
• How to pitch

• Deals
• Lists
• Blog
• Newsletters

Dismiss

ChatGPT and AI языковые инструменты, запрещенные конференцией по искусственному интеллекту для написания статей

Перейти к основному содержанию

Домашняя страница The Verge

• Искусственный интеллект/
• Технологии/
• Политика

/

Инструменты ИИ могут использоваться для «редактирования» и «шлифовки» работ авторов, заявляют организаторы конференции, но текст, «полностью созданный» ИИ, запрещен . В связи с этим возникает вопрос: где вы проводите грань между редактированием и написанием?

Джеймс Винсент

335Z»> 5 января 2023 г., 17:04 UTC |

Поделитесь этой историей

Фото Якуба Поржицки/NurPhoto через Getty Images

Одна из самых престижных в мире конференций по машинному обучению запретила авторам использовать инструменты ИИ, такие как ChatGPT, для написания научных статей, что вызвало дебаты о роли генерируемого ИИ текста в научных кругах.

Международная конференция по машинному обучению (ICML) объявила об этой политике ранее на этой неделе, заявив: «Документы, содержащие текст, сгенерированный с помощью крупномасштабной языковой модели (LLM), такой как ChatGPT, запрещены, если созданный текст не представлен как часть экспериментального анализа статьи». Эта новость вызвала широкое обсуждение в социальных сетях, причем ученые и исследователи ИИ защищали и критиковали эту политику. В ответ организаторы конференции опубликовали более подробное заявление, объясняющее их точку зрения. (ICML ответил на запросы The Verge для комментариев, указав нам на это же заявление. )

Согласно ICML, появление общедоступных языковых моделей ИИ, таких как ChatGPT — чат-бот общего назначения, запущенный в Интернете в ноябре прошлого года, — представляет собой «захватывающее развитие, которое, тем не менее, сопровождается «непредвиденными последствиями [и] вопросами без ответов». ICML заявляет, что они включают в себя вопросы о том, кому принадлежат результаты таких систем (их обучают на общедоступных данных, которые обычно собираются без согласия и иногда повторяют эту информацию дословно) и о том, следует ли текст и изображения, созданные ИИ, «рассматривать как новые или простые». производные от существующей работы».

Пишущие инструменты ИИ — это просто помощники или нечто большее?

Последний вопрос связан с непростым спором об авторстве — то есть о том, кто «пишет» сгенерированный ИИ текст: машина или ее человек-контролер? Это особенно важно, учитывая, что ICML запрещает только текст, «полностью созданный» ИИ. Организаторы конференции говорят, что они , а не запрещают использование таких инструментов, как ChatGPT, «для редактирования или полировки авторского текста», и отмечают, что многие авторы уже использовали для этой цели «полуавтоматические инструменты редактирования», такие как программа для исправления грамматики Grammarly.

«Несомненно, что со временем на эти и многие другие вопросы будут даны ответы, поскольку эти крупномасштабные генеративные модели получат более широкое распространение. Однако ни на один из этих вопросов у нас пока нет четких ответов», — пишут организаторы конференции.

В результате ICML заявляет, что в следующем году будет пересмотрен запрет на текст, сгенерированный искусственным интеллектом.

Однако вопросы, которые рассматривает ICML, не могут быть легко решены. Доступность инструментов искусственного интеллекта, таких как ChatGPT, вызывает путаницу у многих организаций, некоторые из которых ответили собственными запретами. В прошлом году сайт вопросов и ответов Stack Overflow запретил пользователям отправлять ответы, созданные с помощью ChatGPT, а Департамент образования Нью-Йорка только на этой неделе заблокировал доступ к инструменту для всех в своей сети.

Языковые модели ИИ — это инструменты автозаполнения, не имеющие врожденного чувства факта

В каждом случае существуют разные опасения по поводу вредного воздействия текста, генерируемого ИИ. Одним из наиболее распространенных является то, что выход этих систем просто ненадежен. Эти инструменты ИИ представляют собой обширные системы автозаполнения, обученные предсказывать, какое слово следует за следующим в любом заданном предложении. Таким образом, у них нет жестко закодированной базы данных «фактов», на которую можно опереться — есть только возможность писать правдоподобно звучащие заявления. Это означает, что они склонны выдавать ложную информацию за истину, поскольку данное предложение звучит правдоподобно, не гарантирует его фактичности.

В случае запрета ICML на текст, сгенерированный ИИ, еще одна потенциальная проблема заключается в различении текста, который был только «отшлифован» или «отредактирован» ИИ, и того, что было «полностью создано» этими инструментами. В какой момент несколько небольших исправлений под управлением ИИ составляют большую переделку? Что, если пользователь попросит инструмент искусственного интеллекта резюмировать свою статью в краткой аннотации? Считается ли это свежесгенерированным текстом (поскольку текст новый) или простой полировкой (поскольку это краткое изложение слов, написанных автором)?

До того, как ICML разъяснил сферу своей политики, многие исследователи опасались, что возможный запрет на текст, сгенерированный ИИ, также может нанести вред тем, кто не говорит или не пишет на английском как на родном языке. Профессор Йоав Голдберг из Университета Бар-Илан в Израиле сказал The Verge , что полный запрет на использование инструментов для письма с искусственным интеллектом будет актом контроля над этими сообществами.

«Существует явное бессознательное предубеждение при оценке статей в рецензировании, чтобы предпочесть более беглые, и это работает в пользу носителей языка», — говорит Голдберг. «Похоже, что, используя такие инструменты, как ChatGPT, чтобы помочь сформулировать свои идеи, многие не носители языка считают, что они могут «уравнять правила игры» по этим вопросам». По словам Голдберга, такие инструменты могут помочь исследователям сэкономить время, а также улучшить общение со своими коллегами.

Но инструменты для письма с искусственным интеллектом также качественно отличаются от более простых программ, таких как Grammarly. Деб Раджи, научный сотрудник по искусственному интеллекту в Mozilla Foundation, сказала The Verge , что для ICML имеет смысл ввести политику, специально предназначенную для этих систем. Как и Голдберг, она сказала, что слышала от тех, для кого английский язык не является родным, что такие инструменты могут быть «невероятно полезными» для составления документов, и добавила, что языковые модели могут вносить более радикальные изменения в текст.

«Я считаю, что LLM сильно отличаются от чего-то вроде автокоррекции или Grammarly, которые являются корректирующими и образовательными инструментами, — сказал Раджи. «Хотя LLM можно использовать для этой цели, они явно не предназначены для настройки структуры и языка уже написанного текста — у них есть и другие, более проблематичные возможности, такие как генерация нового текста и спама».

«В конце дня авторы подписывают бумаги и имеют репутацию».

Голдберг сказал, что, хотя, по его мнению, ученые, безусловно, могут создавать статьи, полностью используя ИИ, «у них очень мало стимулов делать это на самом деле».

«В конце концов, авторы подписывают бумаги, и у них есть репутация», — сказал он. «Даже если поддельная статья каким-то образом пройдет рецензирование, любое неверное утверждение будет связано с автором и «прилипнет» к нему на всю его карьеру».

Этот пункт особенно важен, учитывая, что не существует абсолютно надежного способа обнаружения текста, сгенерированного ИИ. Даже ICML отмечает, что надежное обнаружение «сложно» и что конференция не будет упреждающе применять свой запрет, пропуская материалы через программное обеспечение детектора. Вместо этого он будет расследовать только те материалы, которые были отмечены другими учеными как подозрительные.

Другими словами: в ответ на появление прорывных и новых технологий организаторы полагаются на традиционные социальные механизмы для обеспечения соблюдения академических норм. ИИ можно использовать для полировки, редактирования или написания текста, но люди все равно должны оценить его ценность.

Самые популярные

1. Это Bing от Microsoft на платформе ChatGPT?

   ---

2. Нарушение 16-летней традиции в Dwarf Fortress

   ---

3. Семейные фотографии Лизы

   ---

4. Элон Маск, очищенный от мошенничества в «Фондовом защищенном» испытании

   ---

5. Это звучит так, как будто Google готовится к конкуренции с Cathgpt

   ---

• Buzzfeed.