Microsoft хочет, чтобы Конгресс принял «всеобъемлющий закон о мошенничестве с дипфейками», чтобы предотвратить мошенничество и злоупотребления с использованием искусственного интеллекта.

Что тебе нужно знать

Поскольку искусственный интеллект становится все более продвинутым и сложным, дипфейки продолжают наводнять Интернет, распространяя дезинформацию.
Microsoft призывает Конгресс США принять всеобъемлющий закон о мошенничестве с дипфейками, чтобы помешать киберпреступникам использовать возможности искусственного интеллекта для причинения вреда.
Новая правовая база предоставит правоохранительным органам основу для преследования мошенничества и мошенничества, генерируемого искусственным интеллектом.

Как опытный цифровой гражданин, который уже несколько десятилетий путешествует по огромным просторам Интернета, я глубоко обеспокоен растущей волной дипфейков и контента, созданного искусственным интеллектом, который становится все более изощренным и его трудно отличить от реальности. Как человек, который воочию стал свидетелем развития технологий, я могу засвидетельствовать, что мы прошли долгий путь со времен элементарных чат-ботов и базовых инструментов для манипулирования изображениями. Но с большой силой приходит и большая ответственность, и кажется, что быстрое развитие ИИ опережает нашу способность эффективно регулировать его использование.

1. Поскольку инструменты искусственного интеллекта, такие как Microsoft Copilot и ChatGPT от OpenAI, становятся все более сложными и функциональными, в Интернете растет тенденция к широкому распространению дипфейкового контента (как мы видели на примере Илона Маска на этой неделе). Помимо опасений по поводу безопасности и конфиденциальности, связанных с развитием технологий, распространение дипфейков ставит под угрозу доверие к онлайн-контенту, из-за чего пользователям становится сложнее отличать правду от вымысла.

Злоумышленники используют технологию искусственного интеллекта для создания реалистичных дипфейков в обманных целях, таких как мошенничество, жестокое обращение и манипулирование. Отсутствие всеобъемлющих правил и мер безопасности привело к широкому распространению дипфейков. Тем не менее, вице-председатель и президент Microsoft Брэд Смит объявил о планах по внедрению новых мер защиты от дипфейков.

Смит отмечает, что Microsoft вместе с другими крупными фигурами в этой области усердно работает над предотвращением использования созданных искусственным интеллектом дипфейков для распространения ложной информации о предстоящих президентских выборах в США.

Хотя компания, похоже, хорошо разбирается в этом вопросе, ведущий руководитель признает, что необходимы дополнительные действия для предотвращения неправомерного использования дипфейков в преступной деятельности. «Принятие всеобъемлющего закона о мошенничестве с дипфейками — это один из важнейших шагов, которые США могут предпринять, чтобы помешать киберпреступникам обманывать обычных граждан с помощью этой технологии», — предположил Смит.

Рекомендуется принять закон, обязывающий поставщиков ИИ-контента использовать передовые технологии отслеживания для маркировки синтетических материалов. Эта мера имеет решающее значение для укрепления доверия к информационному сообществу, позволяя пользователям более эффективно различать контент, созданный с помощью ИИ, и измененный контент.

Как преданный исследователь, я выступаю за кардинальное обновление нашей законодательной базы. В частности, я призываю политиков внести поправки как в федеральные законы, так и в законы штата, которые защищают детей от сексуальной эксплуатации, насилия и несанкционированного распространения интимного контента. Учитывая быстрое развитие и распространенность искусственного интеллекта (ИИ), крайне важно, чтобы эти обновленные законы также четко касались контента, создаваемого ИИ. Этот превентивный шаг поможет гарантировать, что наши меры защиты останутся актуальными и эффективными в современную цифровую эпоху.

Это все в стадии разработки

Перед президентскими выборами в США генеральный директор Microsoft Сатья Наделла заявил, что существует достаточно технологий для предотвращения дипфейков и дезинформации со стороны ИИ, такого как Copilot. Однако после этого объявления возникли опасения, поскольку Copilot AI был обнаружен предоставляющим ложную информацию о предстоящих выборах.

После того как в сети появились откровенные изображения певицы Тейлор Свифт, созданные искусственным интеллектом, в Сенате был одобрен законопроект, направленный на решение этой проблемы. Лица, оказавшиеся изображенными в таком откровенном контенте, созданном ИИ, имеют право подать иски с требованием компенсации.

Напротив, OpenAI представила новый подход, направленный на то, чтобы помочь пользователям различать контент, созданный ИИ. Водяные знаки были добавлены к тексту ChatGPT и изображениям DALL-E 3, однако OpenAI признает, что это не окончательное решение проблемы аутентичности. OpenAI разрабатывает инструмент для идентификации изображений, созданных искусственным интеллектом, утверждая, что он достигнет высокого уровня точности — 99,9%.

Смотрите также

2024-07-30 21:09