OpenAI financuje výzkum morálky umělé inteligence

OpenAI investuje milion dolarů do výzkumu na Duke University, který má za cíl vytvořit algoritmy schopné předvídat morální úsudky lidí. Tým pod vedením profesora etiky Waltera Sinnott-Armstronga se pokusí naučit umělou inteligenci rozhodovat v eticky složitých situacích v medicíně, právu, ale i byznysu.

Umělá inteligence jako morální kompas pro lidstvo

Výzkumníci z Duke University už dříve vytvořili morálně orientovaný algoritmus pro rozhodování o příjemcích transplantací ledvin. Jejich vize však teď směřuje k vytvoření jakéhosi morálního kompasu, který by pomáhal lidem v složitých etických rozhodnutích. Ale je vůbec možné naučit stroj chápat lidskou morálku?

Historie nás varuje. V roce 2021 vyvinul Allen Institute nástroj Ask Delphi, který měl poskytovat etická doporučení. Dokázal správně posoudit, že podvádění při zkoušce je špatné, ale stačilo přeformulovat otázku a systém začal schvalovat i vyloženě neetické jednání. Důvod? AI systémy jsou v jádru jen statistické stroje bez skutečného pochopení etiky.

Západní předpojatost v digitální morálce

Současné AI systémy jsou trénovány především na datech ze západního světa, což vede k jednostrannému pohledu na morálku. Systémy tak často reprodukují hodnoty západní, vzdělané a industrializované společnosti, zatímco jiné kulturní perspektivy zůstávají opomenuty.

Každý algoritmus se navíc učí na jiných datech. To se projevuje i v kontroverzních soudech, například když Delphi označil heterosexualitu za morálně přijatelnější než homosexualitu. I ostatní AI systémy zastávají odlišné filozofické postoje.

Claude se například přiklání ke Kantovu absolutismu, zatímco ChatGPT inklinuje k utilitarismu. Podle všeho bude opravdu složité vytvořit univerzální morální algoritmus, když i samotní filozofové debatují o etických teoriích už tisíce let.