Объем контента, созданного нейросетями, вырос в 17 раз

Количество аудиовизуального контента, созданного с использованием искусственного интеллекта (ИИ), за последний год увеличилось в 17 раз, сообщают в АНО «Диалог регионы». С начала 2022 года было выявлено более полумиллиона таких материалов. Эти данные будут использованы для разработки законодательства, направленного на борьбу с фейковым контентом. Эксперты также планируют применять их для создания нейросетей, способных распознавать ИИ-контент.

Система «Зефир», разработанная для противодействия фейкам, с января 2022 года собрала информацию о более чем 570 тыс. единиц контента, созданного с помощью ИИ. Это составляет 10% от всего проанализированного контента. В 2023 году количество таких материалов увеличилось в 17 раз по сравнению с предыдущим годом.

Система использует машинное обучение для выявления сфабрикованного контента, включая дипфейки и спуфинг (подмена голоса). Она также может обнаруживать замену фона, обработку аудио, транскрибирование речи и автоматизированный перевод. В текущем году наблюдается рост популярности аудиодипфейков, которые используются для мошеннических звонков.

Эксперты прогнозируют появление новых нейросетей, которые будут эффективно распознавать и маркировать ИИ-контент, что станет важным инструментом в борьбе с дипфейками и спуфингом. По словам специалистов, число поддельного аудио- и видеоконтента будет продолжать расти, что увеличит количество случаев мошенничества.