Co se skrývá v čínském pokoji? Argument, že umělá inteligence nebude nikdy myslet jako člověk
V mnoha ohledech dnes žijeme v té vědecko-fantastické budoucnosti, kterou jsme ještě před pár lety viděli jen ve Star Treku. Po ulicích bzučí elektrická auta a dítka školou povinná používají místo taháků nástroje umělé inteligence. Při neustálém plácání se po zádech za to, jaké sci-fi bytosti se z nás staly, se nicméně hodí trocha pokory a připomenutí, že nepřicházíme zas tak na nic nového a že stejně jako první elektromobil vznikl v roce 1835 (tedy přibližně padesát let před první pořádnou károu se spalovacím motorem), filozofie umělé inteligence se řešila už v minulém století.
Jedním z příkladů tohoto přístupu k AI je myšlenkový experiment, který představil americký filozof John Searle ve studii s názvem Mysli, mozky a programy, publikované v prestižním vědeckém magazínu Behavioral and Brain Sciences v roce 1980. Searle předběhl dobu o několik desetiletí
a v době, kdy byl nějaký GPT-4o jen horečným snem nepříčetného programátora, který to odpoledne přehnal s pelyňkovým čajem, stanovil základní premisu o nelidské podstatě umělé inteligence.
Propracovanější stroječek
V rámci myšlenkového experimentu, který vstoupil do historie jako tzv. argument čínského pokoje, Searle konstatoval, že jakkoliv lidsky se uměle vytvořená inteligence počítače tváří a chová, nemůže mít nikdy ve skutečném slova smyslu mysl, porozumění ani vědomí. Filozof se svou tezí nepřišel jen tak z legrace, ale vymezoval se jí proti opačnému přístupu funkcionalismu a tzv. komputační teorie mysli, které naopak vycházely z premisy, že lidský mozek je v podstatě takový biologický počítač, který zkrátka jen zpracovává informace na základě formálních symbolů.
John Searle ale představu lidské bytosti jako takového sofistikovanějšího robota R2-D2 z Hvězdných válek odmítl a vyhranil se proti představě, že dostatečně pokročilá AI bude stejnou myslí, jako je ta lidská. Šel tím ve stopách svého předchůdce Gottfrieda Leibnize, který se už v 18. století podobně vyhranil proti trendy filozofii mechanismu. Ta totiž hlásala, že veškerá skutečnost je vlastně takový větší mechanismus a sám člověk je prostě jen propracovanější stroječek.
Argument čínského pokoje, o který Searle svůj protiútok opřel, je zjednodušeně řečeno následující. Představte si, že jste zavření v nějaké místnosti a nemáte nejmenší tušení, co znamenají čínské znaky. Následně vám někdo zvenku začne podsouvat pode dveřmi papíry s čínským textem a s nimi také detailní instrukce a pravidla. Podle těchto pravidel jste schopni nahlížet do objemných knih napěchovaných dalšími čínskými znaky a vaším úkolem je podle těchto pravidel přepisovat
a přesouvat čínské znaky tak, abyste z nich seskládali odpověď na papír v ryzí čínštině.
Znamená to, že i když po celou dobu nemáte sebemenší ponětí o tom, co všechny ty čínské znaky znamenají, jste schopni jen a pouze podle zmíněných pravidel napsat v čínštině solidní odpověď. Když si ji ten člověk za dveřmi přečte, bude mít pocit, že umíte čínsky. Jenže vy jste jen následovali postup podle dodaných pravidel a vaše porozumění čínštině je nadále nulové.
Teď si to přeneste na umělou inteligenci, jak ji známe a jak funguje dnes. Americký filozof už před necelým půlstoletím na tomto příkladu ukázal, že i když počítač bude dávat rozumné odpovědi
a psát je třeba v čínštině, stále to neznamená, že opravdu „myslí“ a „chápe“ to, co dělá.
Funguje pouze na základě pravidel, a nikoliv na základě skutečného porozumění jako lidská bytost.
Je to počítač a nedělá nic jiného, než že mechanicky manipuluje se symboly.
Mimochodem, při přípravě tohoto materiálu si nechal autor celý Searlův argument několikrát
a na různých úrovních porozumění vysvětlit od umělé inteligence. A pokud by mu někdo řekl, že mu neodpovídá počítač, ale přes propast času si s ním píše sám John Searle, nepoznal by to.
