Kolín n. Rýnom,14.3.2026 (CNA) – 040 566
To je názor sociálneho etikov Elmara Nassa z Kolína nad Rýnom, a tak vydal knihu s názvom „Kresťanská etika UI“. Kto si ju prelistuje, bude dostatočne znepokojený, a túto novú publikáciu privíta. Niektorí zdôrazňujú doteraz nepredstaviteľné príležitosti na riešenie závažných globálnych a ľudských problémov, zatiaľ čo iní vykresľujú obraz temnej dystopie neovládateľných strojov!
(dystopia – opak utópie neliečivý, desivý svet s totalitnou vládou, stálym sledovaním, chudobou či útlakom)
Nass poukazuje na to, že aj renomovaní priekopníci výskumu UI varujú pred rizikami zničenia ľudstva potenciálne neovládateľnou umelou super-inteligenciou v budúcnosti!
Katedra kresťanských sociálnych vied a sociálneho dialógu na Katolíckej teologickej univerzite v Kolíne nad Rýnom (KHKT) sa však k tejto téme vyjadruje pokojne a pevne. Varuje pred strachom či dokonca agresívnym odmietnutím novej technológie. Naopak, obhajuje pozitívne ocenenie a zodpovedné používanie. Etická kompetencia je nevyhnutná pre vývojárov, používateľov a tých, ktorých sa jej používanie priamo týka. Dôsledky musia byť tiež kriticky preskúmané.
Nass poukazuje na zásadný nedostatok systematickej etickej argumentácie týkajúcej sa fenoménu umelej inteligencie. Systematický kresťanský rámec pre etiku umelej inteligencie stále chýba.
Čo je vlastne umelá inteligencia? Nuž je založená na matematických vzorcoch, algoritmoch a prepojených (komplexných kvázi-neurónových) systémoch, ktoré sú zásobované dátami. Pozostáva zo schopnosti systému správne interpretovať externé dáta, učiť sa z týchto dát a používať ich na dosiahnutie konkrétnych cieľov a úloh prostredníctvom flexibilnej adaptácie.
V ideálnom prípade by silná umelá inteligencia mala myslieť ako vysoko logický človek – bez ľudskej omylnosti. Také zdokonalené systémy však zrejme ešte nie sú na dohľad:
„Strojové učenie tu opisuje technický proces ´učenia sa´ zo skúseností s novými dátami bez vytvárania stále nového, konkrétneho programovania.“
Generatívne systémy založené na hlbokom učení by mohli robiť rozhodnutia autonómne bez ďalšieho ľudského zásahu, ako aj ovládať vozidlá a zbrane!
Nass však uvádza, že ani generatívna AI nevytvára nič úplne nové:
„Len vypočítava svoje výsledky na základe existujúcich údajov a pravidiel. Výsledky AI preto nie sú neutrálne, ale skôr odrazom údajov, ktoré do nej boli vložené.“
Medzi oblasti použitia generatívnej AI patrí vzdelávanie, žurnalistika a formovanie verejnej mienky, ako aj medicína a ošetrovateľstvo, armáda, akciový trh a financie, environmentálne a urbanistické plánovanie a právne alebo politické rozhodnutia. Takéto systémy by podľa Nassa umožnili humanoidným robotom starostlivosti správať sa ako ľudia, s jazykom a údajnými emóciami. AI by dokonca mohla písať vynikajúce prejavy, články a kázne, žiadosti o zamestnanie, seminárne práce alebo dizertačné práce. Doteraz bolo ťažké dokázať, že skutočnými autormi sú matematické vzorce, a nie ľudský intelekt. Vloženie pôvodne neviditeľných vodoznakov do textov generovaných AI by však mohlo odhaliť ich skutočný pôvod, aspoň v digitálnych textoch.
AI so svojimi generatívnymi schopnosťami preniká aj do morálne zložitých oblastí. Sľubuje systémom riadené, a teda vypočítané riešenia aj pre etické dilemy.
„Ale ako môže teraz aplikovaná matematika praktizovať morálku?“ pýta sa sociálny etik. Na tento účel sa teraz programuje „umelá morálka“ (UM). Nass varuje pred falošnými snami, ako je digitálny utopizmus. Predstava, že je možné vytvoriť artefakty nadradené ľuďom, je spojená s novým obrazom ľudstva a spoločnosti a je založená na bezhraničnom technologickom optimizme. To sa rozširuje až na predstavy o nesmrteľnosti a umelej superinteligencii. Zahŕňa to „optimalizáciu ľudí založenú na technológiách“.
Pre niektorých je cesta k transhumanizmu iba medzikrokom na ceste k takzvanému posthumanizmu, ktorého cieľom je transformácia ľudstva. Ľudský mozog – podľa jednej vízie – má byť uložený na pevnom disku a mať možnosť „žiť ďalej“ donekonečna po prípadnej biologickej smrti. Elmar Nass však toto nezdieľa.
Systémy umelej inteligencie zostávajú náchylné na technické chyby a poruchy, napríklad v dôsledku nepriateľských útokov zvonku, ale aj v dôsledku vnútornej manipulácie.
Vzhľadom na ich zložitosť už procesy, ktoré sú s nimi spojené, nie sú zrozumiteľné ani pre odborníkov, a preto sa vymykajú ľudskej kontrole!
Nass: „Tieto technické systémy nemajú dušu, žiadne pocity ani intuíciu; neprežívajú priateľstvo, súcit, skutočný záujem, radosť, smútok, lásku ani nenávisť.“ Okrem toho sú zbavené cnosti. Nedokážu pochopiť význam slov, situácií ani argumentov, ani nemôžu robiť úsudky na základe racionálnych úvah. UI preto nemôže prevziať ľudskú zodpovednosť!“
Elmar Nass: „Ľudské bytosti majú kresťanského hľadiska základnú trojitú zodpovednosť: pred Bohom, pred blížnym a pred sebou samými. Preto je povinnosť neoddeliteľnou súčasťou existencie ľudských bytostí. Ľudia sú preto morálne bytosti. Predpokladom je dobrovoľné sebaurčenie. Používanie technológie by malo umožňovať morálnu zodpovednosť, a nie ju zbavovať moci. Slabosť spôsobená chorobou alebo starobou neznižuje dôstojnosť človeka. Používanie umelej inteligencie by malo slúžiť ľudskému spolunažívaniu v mierovej a zmierlivej („irenickej“) kultúre!
Nass identifikuje aj ochranu bezpodmienečnej dôstojnosti, ktorá patrí len ľudským bytostiam, ako základné požiadavky kresťanskej etiky umelej inteligencie. Preto vyzýva na uvedomelý jazyk, ktorý sa vyhýba antropomorfizácii technických procesov. Obrázky a texty generované umelou inteligenciou musia byť identifikovateľné a rozhodnutia umelej inteligencie musia byť zrozumiteľné. Je potrebný odpor proti dehumanizujúcej logike optimalizácie. Aj zraniteľní majú rovnakú dôstojnosť a zaslúžia si osobitnú ochranu a rešpekt. Okrem toho by umelá inteligencia mala podporovať osobnú, medziľudskú interakciu a posilňovať liberálnu identitu v rámci demokracie, ktorá kladie do svojho jadra holistický rozvoj jednotlivca.
-zg-