Podle návrhu by Meta od 16. prosince shromažďovala interakce mezi uživateli a svou sadou chatbotů s umělou inteligencí na Facebooku, Instagramu a WhatsAppu. Tyto výměny – které mají napodobovat neformální, přátelské konverzace – by se staly trénovacími daty pro algoritmy Mety a novým zdrojem behaviorálních poznatků pro doladění reklam, které uživatelé vidí.
Metův krok vyvolal negativní reakci zastánců soukromí.
Koalice více než 30 organizací pro digitální práva a občanské svobody – včetně Electronic Privacy Information Center (EPIC), Public Citizen a Center for Digital Democracy – vyzvala americkou Federální obchodní komisi (FTC), aby zablokovala plán společnosti Meta využívat konverzace chatbotů pro reklamu a personalizaci obsahu.
V dopise koalice vyzývá Federální obchodní komisi (FTC), aby:
- Vymáhat stávající souhlasné dekrety společnosti Meta a požadovat zveřejnění posouzení rizik;
- Považovat tuto praktiku za nekalé a klamavé jednání podle § 5 zákona FTC;
- Pozastavit reklamní program chatbotů společnosti Meta do doby, než Komise provede přezkum;
- Dokončit dlouho čekající úpravy nařízení z roku 2020 s cílem posílit ochranu soukromí, včetně navrhovaného zákazu zpeněžování dat nezletilých osob.
Vaše data jsou novým vstupním materiálem pro umělou inteligenci
Zatímco tradiční sběr dat zahrnuje sledování toho, co se vám líbí, co sledujete nebo co kupujete, data z chatu s umělou inteligencí jdou hlouběji. Jsou konverzační, kontextová a často emocionální. Mohou odhalit problémy s duševním zdravím, problémy ve vztazích nebo finanční starosti.
To je druh obsahu, o kterém inzerenti sní – ale je to také druh informací, u kterých uživatelé nikdy neočekávají, že budou komerčně využity.
Jak varovala koalice, povolení používat tato data jako podnět k cílení reklamy by normalizovalo nebezpečné narušování soukromí pod rouškou inovací v oblasti umělé inteligence.
„Bez zásahu FTC […] kroky společnosti Meta normalizují invazivní praktiky v oblasti dat s využitím umělé inteligence v celém odvětví, což dále podkopává soukromí a ochranu spotřebitelů,“ uvádí se v tiskové zprávě zveřejněné serverem epic.org.
Odborníci na ochranu soukromí varují, že se jedná o zásadní změnu způsobu monetizace osobních údajů. Chatboti jsou navrženi tak, aby působili lidsky a intimně. Uživatelé mohou sdílet myšlenky, frustrace a detaily, které by nikdy nezveřejnili veřejně. Proměna těchto chatů v datové body pro cílení reklamy by mohla otevřít novou kapitolu v marketingu sledování řízeném umělou inteligencí.
„FTC má za sebou neblahou historii v tom, že Metu nechala bez trestu, a právě k tomu nás dovedla: porušování soukromí v průmyslovém měřítku, které vám přináší chatbot, jenž předstírá, že je váš přítel,“ řekl John Davisson, ředitel pro soudní spory ve společnosti EPIC. „[…] Je načase vážně začít s omezením Mety.“
„Dohled chatbotů za účelem cílení reklamy není vzdálenou hrozbou – děje se to právě teď,“ řekla Katharina Kopp, zástupkyně ředitele Centra pro digitální demokracii (CDD). „Krok společnosti Meta urychlí závod, v němž jiné společnosti již zavádějí podobně invazivní a manipulativní praktiky a hlouběji začleňují komerční dohled do všech aspektů našich životů.“
Federální obchodní komise (FTC) se již dříve střetla s úřadem Meta kvůli porušování soukromí a klamavým praktikám, takže dozorčí orgány doufají, že úřad zasáhne před spuštěním této funkce. Historie však naznačuje, že by se uživatelé neměli spoléhat pouze na regulační orgány, pokud jde o ochranu jejich osobních údajů.
Obohacování umělou inteligencí prostřednictvím rozšiřování dat
Meta není jediným technologickým gigantem, který rozšiřuje svůj repertoár sběru dat pro éru umělé inteligence. LinkedIn nedávno začal používat data z uživatelských profilů a veřejné příspěvky k trénování svých generativních systémů umělé inteligence a ke zlepšení výkonu reklamy – tuto politiku mohou uživatelé odmítnout, ale pouze manuálním odhlášením.
Tyto kroky odpovídají jasnému vzorci: obohacení umělou inteligencí prostřednictvím rozšiřování dat. Vzhledem k tomu, že společnosti předhánějí ve vývoji chytřejších algoritmů a personalizovaných zážitků, zásobují své modely každým kouskem obsahu, který uživatelé vytvoří – příspěvky, zprávy, obrázky a nyní i zdánlivě soukromými konverzacemi.
Pro průměrného spotřebitele to znamená, že školení v oblasti umělé inteligence se již neděje jinde. Děje se na vaší obrazovce, v chatu a v souvislosti s vaší digitální identitou – často bez jasného souhlasu.
Co můžete dělat
Nemůžete zabránit velkým technologickým firmám v obohacování umělé inteligence, ale můžete podniknout kroky k omezení toho, kolik vašich dat se stane materiálem pro školení:
- Zacházejte s chatboty jako s veřejnými prostory: Nikdy nepředpokládejte, že chat s platformou s umělou inteligencí je soukromý. Vyhněte se sdílení citlivých detailů – i triviální osobní fakta lze agregovat do podrobného behaviorálního profilu.
- Zkontrolujte nastavení používání dat: Zkontrolujte nastavení „Soukromí“ nebo „AI“ vaší platformy, zda neobsahuje možnosti sdílení dat nebo školení AI. Některé platformy, například LinkedIn a X (Twitter), vám umožňují zakázat používání vašeho profilu nebo příspěvků AI. Pokud Meta zavede podobné možnosti, okamžitě je využijte!
- Odhlášení, kde je to možné: Mechanismy odhlášení jsou často skryté hluboko v nabídkách nebo na panelech ochrany osobních údajů. Vyhledejte přepínače „školení AI“, „personalizace“ nebo „data pro zlepšení“ – a vypněte je.
- Omezte data na všech platformách: Každý lajk, komentář a zpráva přispívá k vašemu digitálnímu otisku. Čím méně dat sdílíte, tím méně je k dispozici ke sběru. Zvažte ořezávání starých příspěvků, omezení viditelnosti a omezení používání platformy, které není nezbytné.
- Požadovat transparentnost: Podporovat organizace a zásady, které prosazují používání dat na základě souhlasu spíše než systémy s odhlášením. Tlak na ochranu soukromí by neměl spočívat výhradně na spotřebitelích.
Zdroj: Bitdefender
