Модерация ИИ-контента в Android-приложениях станет жестче

Google вводит новые правила для приложений на Android, в которых используется контент, генерируемый искусственным интеллектом, направленные на «модерацию оскорбительных материалов и обеспечение безопасности пользователей». Приложения, использующие контент, генерируемый искусственным интеллектом, должны будут включать функцию отчетности, позволяющую отмечать или сообщать об оскорбительном контенте. Пользователи смогут сообщать о таком контенте, не выходя из приложения. Политика Google распространяется на чат-боты с искусственным интеллектом, приложения с изображениями, создаваемыми искусственным интеллектом, и приложения, генерирующие голосовой или видеоконтент с помощью искусственного интеллекта. Приложения, в которых размещается контент, созданный искусственным интеллектом, использующий искусственный интеллект для обобщения материалов или использующий искусственный интеллект в качестве функции, не подпадают под действие новой политики. Google обеспокоен такими проблемами, как дипфейки, обманчивый предвыборный контент и создание вирусов и не только.