Google ще постави нови изисквания за модериране на съдържанието на Android-приложенията, които използват AI. От началото на следващата година разработчиците на такива приложения трябва да внедрят функция за докладване на обидни или противоречиви материали директно в потребителския интерфейс. Тези промени ще засегнат не само базираните на изкуствен интелект чатботове, но и приложенията, които създават визуално и аудио-съдържание. Инициативата има за цел да се бори с неподходящото съдържание, включително и дийпфейк и дезинформацията.

Google пояснява, че новата политика няма да важи за всички AI-приложения. Тя ще засегне чатботовете, приложенията за създаване на изображения, гласовото и видео-съдържанието. Приложенията, които съхраняват само генерираното от AI съдържание или използват изкуствен интелект за обобщаване на текстов материал, ще останат извън обхвата на новите правила.

Google се фокусира върху определени категории съдържание, които изискват строго модериране. Този списък включва фалшивите видеоклипове или изображения, създадени без съгласието на хората, изобразени в тях, както и записи на истински хора, използвани за измамни цели.

Освен това, компанията ще бъде особено бдителна за разпространението на невярна или подвеждаща информация, свързана с изборите. Не по-малко строг контрол е установен за приложенията, в които генеративният AI се използва предимно за сексуално задоволяване, както и за създаване на злонамерен код.

В съобщението си Google подчерта, че генеративният изкуствен интелект е бързо развиваща се категория приложения, което предполага, че компанията може да преразгледа своите политики относно ИИ с по-нататъшното развитие на технологията. В допълнение към новите правила относно съдържанието, генерирано от AI, Google също така разшири и своята политика за разрешения при използване на снимки и видео в Play Store, ограничавайки достъпа на Android-приложенията до данните.

„Снимките и видеоклиповете на потребителските устройства са тяхна лична и поверителна информация, изискваща най-голяма отговорност“ — подчертава компанията в изявлението си. „Такива данни създават потенциална уязвимост за потребителите в случай на изтичане на информация или други форми на експлоатация.“ Ограничаването на достъпа до тях не само повишава нивото на сигурност на потребителите, но и намалява тежестта върху разработчиците по отношение на обработката на чувствителна информация.