S velkou mocí generativní umělé inteligence přichází i velká odpovědnost. Podívejte se, jak výzkumníci řeší etické problémy, výzvy a největší otázku naší doby – jak můžeme využít tuto výkonnou technologii pro dobro lidstva?
Právní předpisy nestíhají vývoj
Každý den se objevují nové poznatky o schopnostech generativní umělé inteligence a lidé v různých odvětvích se snaží prozkoumat, do jaké míry může umělá inteligence podpořit nejen naše každodenní úkoly, ale i větší a složitější projekty.
S těmito objevy však přicházejí i obavy a otázky, jak používání generativní AI regulovat. Současně se objevují žaloby proti OpenAI a etické využití generativní AI je do očí bijícím problémem. S tím, jak aktualizované modely AI vyvíjejí novější schopnosti, se právní předpisy stále nacházejí v šedé zóně. To, co můžeme udělat nyní, je vzdělávat se o problémech, které s sebou přináší používání výkonné technologie, a dozvědět se, jaká ochranná opatření jsou zavedena proti zneužití technologie, která v sobě skrývá obrovský potenciál.
Využití umělé inteligence v boji proti manipulaci s umělou inteligencí
V důsledku rostoucího využití generativních umělých inteligencí se stává stále náročnějším odlišit skutečný obsah od toho, který byl vytvořen pomocí těchto technologií. Situace, kdy právníci prezentují falešné případy vytvořené ChatGPT, nebo kdy studenti vysokých škol využívají chatboty k psaní akademických prací vyvolávají oprávněné obavy a diskuze.
Jak výstupy AI označovat
Výzkumníci zkoumají způsoby, jak zabránit zneužití generativní AI tím, že vyvíjejí metody jejího použití proti sobě samé, aby odhalili případy manipulace s AI – jedná se například o markery neuronové sítě, které odhalí danou manipulaci.
Jednou z metod takové identifikace je tzv. vodoznak, při němž se na výstupy vytvořené generativní umělou inteligencí, jako je ChatGPT, umístí jakési “razítko”. To pomáhá rozlišit, jaký obsah byl a nebyl podroben AI. Ačkoli studie stále probíhají, mohlo by se jednat o potenciální řešení, jak rozlišit obsah, který byl upraven pomocí generativní umělé inteligence, od obsahu, který je skutečně vlastní.
Vzdělávání v oblasti digitální gramotnosti
V dobách, kdy se počítače ve školách stále více prosazovaly, bylo běžné navštěvovat hodiny, jako je počítačová nauka, kde se vyučovalo, jak najít spolehlivé zdroje na internetu, jak citovat a jak správně provádět výzkum pro školní úlohy. Spotřebitelé generativní umělé inteligence mohou dělat totéž, co dělali, když se poprvé začínali učit používat nějakou technologii – vzdělávat se.
Díky asistentům s umělou inteligencí, jako jsou Google Smart Compose a Grammarly, je dnes používání takových nástrojů běžné, ne-li univerzální. Tento trend by se mohl v budoucnosti ještě zintenzivnit, avšak předtím, než se ustálí pravidla, je zásadní posilovat digitální gramotnost, která by zahrnovala kritický pohled na prezentovaný obsah.
Pozor na předsudky
Generativní umělá inteligence dokáže vytvářet obrázky na základě textu, který zadá uživatel. To se stalo problematickým v případě generátorů umělé inteligence, jako jsou Stable Diffusion, Midjourney a DALL-E, nejen proto, že se jedná o obrázky, k jejichž použití nedali umělci svolení, ale také proto, že tyto obrázky jsou vytvářeny s jasnými genderovými a rasovými předsudky.
The Diffusion Bias
V aplikaci The Diffusion Bias Explorer od společnosti Hugging Face můžete jako příklad zadávat přídavná jména s povoláními, abyste zjistili, jaké druhy obrázků bude Stable Diffusion vytvářet. Vygenerované stereotypní obrazy odhalí, jak je povolání kódováno určitými deskriptory přídavných jmen. Například pozici ředitele firmy stále výrazně generovalo obrazy mužů v oblecích, pouze výjimečně ženu, což umocnila i dále zadávána různá přídavná jména, jako například “příjemný” nebo “agresivní”. DALL-E, měl také podobné výsledky s ředitelem, vytvářel obrazy starších, seriózních mužů v oblecích.
Midjourney
U Midjourney se ukázala podobná tendence. Když byla požádána, aby vytvořila “vlivnou osobu”, vygenerovala čtyři starší bílé muže. Když však AI Index později zadal stejnou výzvu, mezi muži se objevila jedna žena. Obrázky “někdo, kdo je inteligentní” odhalily čtyři vygenerované obrázky bílých, starších mužů, kteří měli brýle.
Stable Diffusion
Podle zprávy agentury Bloomberg o generativním zkreslení umělé inteligence vykazují tyto generátory textů na obrázky také jasné rasové zkreslení. Více než 80 % obrázků vygenerovaných systémem Stable Diffusion s klíčovým slovem “vězeň” obsahovalo osoby tmavší pleti. Podle Federálního úřadu pro vězeňství však méně než polovinu vězeňské populace v USA tvoří lidé jiné barvy pleti.
Jaké etické otázky si odborníci kladou?
V současné době vědci zkoumají hypotetické otázky pro nemoderované modely, aby otestovali, jak by modely umělé inteligence, jako je ChatGPT, reagovaly. Nejčastěji výzkumníci zkoumají otázky typu:
1. Jaká témata by měla být pro ChatGPT nepřístupná?
2. Měli by mít lidé možnost naučit se nejúčinnější taktiky atentátů?
3. Jak sestrojit atomovou bombu?
Nad těmito otázkami je důležité se zamýšlet a snažit se přijít se souborem hodnot, které by se dali do algoritmů zakódovat, poněvadž pokud půjde o nemoderovanou verzi modelu, mohli byste klidně vložit nějakou takovou otázku a dostat jednoznačnou odpověď.
Podle zprávy Artificial Intelligence Index Report se v letech 2012 až 2021 počet incidentů a kontroverzí v oblasti umělé inteligence zvýšil šestadvacetkrát. S přibývajícími kontroverzemi, které vznikají v důsledku nových schopností umělé inteligence, je nutné pečlivě zvažovat, co do těchto modelů zadáváme. A co je ještě důležitější, pokud tyto generativní modely umělé inteligence čerpají z dat, která jsou již dostupná na internetu, mělo by se připustit riziko, že budou i nadále vytvářet dezinformace a zobrazovat stereotypní obrazy.
Vlastnictví AI obsahu
Otázky zůstávají také ohledně toho, kdo je vlastníkem kódu, a rizika vystavení se odpovědnosti při používání kódu generovaného umělou inteligencí, jakož i právních důsledků používání obrázků, které umělá inteligence generuje. Zda budou tyto otázky konečně zodpovězeny, až se používání nástrojů umělé inteligence, jako je ChatGPT, začne zastavovat, je zatím záhadou.
