27 července, 2026

Základy umělé inteligence - část 2

UMĚLÁ INTELIGENCE OD ZÁKLADŮ

Kapitola 2: Historie umělé inteligence

Cíle kapitoly

Po prostudování této kapitoly budete umět:

·       vysvětlit, jak vznikaly první myšlenky o myslících strojích;

·       popsat význam nejdůležitějších osobností v historii AI;

·       vysvětlit roli matematické logiky a prvních počítačů;

·       objasnit význam Turingova testu;

·       popsat vznik oboru umělé inteligence v roce 1956;

·       vysvětlit příčiny období označovaných jako „AI zima“;

·       popsat vývoj expertních systémů, strojového učení a neuronových sítí;

·       vysvětlit význam internetu, velkých dat a grafických procesorů;

·       popsat cestu od prvních jazykových programů k velkým jazykovým modelům;

·       zařadit současnou generativní AI do širšího historického vývoje.


2.1 Úvod

Umělá inteligence se může na první pohled jevit jako velmi nová technologie. Ve skutečnosti však navazuje na dlouhou historii lidských pokusů vytvořit stroje, které by dokázaly napodobovat živé bytosti, provádět výpočty, používat jazyk nebo samostatně řešit problémy.

Dnešní systémy umělé inteligence nevznikly díky jedinému objevu. Jsou výsledkem postupného spojení mnoha oblastí:

·       matematiky;

·       logiky;

·       statistiky;

·       elektrotechniky;

·       informatiky;

·       psychologie;

·       neurověd;

·       lingvistiky;

·       teorie řízení;

·       vývoje výpočetního hardwaru.

Historie AI není přímou cestou od jednoduchých programů k dnešním modelům. Vývoj se opakovaně střídal mezi obdobími velkého nadšení a obdobími zklamání. V některých desetiletích výzkumníci věřili, že lidská inteligence bude napodobena během několika let. Když se tyto předpovědi nenaplnily, financování i zájem veřejnosti klesly.

Porozumění historii je důležité také proto, že pomáhá rozpoznat opakující se vzorec. Nové technologie často vyvolávají přehnaná očekávání. Po počátečním nadšení se projeví jejich omezení a teprve následně se najde realistické a praktické využití.


2.2 Starověké představy o umělých bytostech

Touha vytvořit umělou bytost se objevovala dávno před vznikem počítačů.

Ve starověkých mýtech se setkáváme s bytostmi vytvořenými člověkem nebo bohy. Tyto příběhy nepopisovaly skutečnou technologii, ale ukazovaly dlouhodobou lidskou fascinaci představou neživého objektu, který se pohybuje, jedná nebo plní příkazy.

Známými příklady jsou:

·       mechanické služebnice boha Héfaista v řecké mytologii;

·       bronzový obr Talós, který chránil Krétu;

·       Pygmalionova socha, která ožila;

·       příběhy o golemovi ve středoevropské židovské tradici;

·       legendy o alchymistických homunkulech.

Tyto příběhy často obsahují témata, která se objevují i v dnešních diskusích o AI:

·       poslušnost vytvořené bytosti;

·       ztráta kontroly nad vlastním výtvorem;

·       odpovědnost tvůrce;

·       hranice mezi živým a neživým;

·       otázka, zda lze lidské vlastnosti napodobit.

Přestože neměly technický základ, představovaly kulturní předchůdce dnešních úvah o inteligentních strojích.


2.3 Mechanické automaty

Ve starověku, středověku i novověku vznikaly různé mechanické automaty. Šlo o zařízení, která pomocí ozubených kol, závaží, pružin, vody nebo vzduchu napodobovala pohyb lidí a zvířat.

Automaty mohly například:

·       pohybovat rukama;

·       hrát jednoduchou melodii;

·       psát několik předem připravených znaků;

·       nalévat tekutinu;

·       otevírat dveře;

·       napodobovat pohyb ptáka;

·       ukazovat čas.

Tyto stroje nebyly inteligentní. Jejich chování bylo předem určeno konstrukcí mechanismu. Přesto byly významné, protože ukázaly, že složité chování lze rozložit na sérii mechanických kroků.

Tato myšlenka se později stala základem algoritmického myšlení: i komplikovaný úkol lze vykonat, pokud jej rozdělíme na dostatečně přesně popsané dílčí kroky.


2.4 První počítací stroje

Vývoj AI by nebyl možný bez strojů určených k výpočtům.

Jedním z prvních známých pomůcek byl abakus. Ten sice nepočítal samostatně, ale umožňoval člověku rychleji provádět aritmetické operace.

V 17. století vznikaly mechanické kalkulátory.

Blaise Pascal

Francouzský matematik Blaise Pascal vytvořil mechanickou kalkulačku schopnou sčítat a odčítat. Zařízení bylo známé jako Pascalina.

Gottfried Wilhelm Leibniz

Německý matematik a filozof Gottfried Wilhelm Leibniz navrhl stroj, který zvládal také násobení a dělení.

Leibniz byl významný i tím, že prosazoval dvojkovou číselnou soustavu. Právě dvojková reprezentace, založená na hodnotách nula a jedna, se později stala základem digitálních počítačů.

Mechanické kalkulátory ukázaly, že některé mentální činnosti, například aritmetické výpočty, mohou být provedeny strojem.


2.5 Programovatelný stroj Charlese Babbage

V 19. století navrhl britský matematik Charles Babbage několik mechanických počítacích strojů.

Nejvýznamnější byl návrh analytického stroje.

Měl obsahovat prvky, které připomínají části moderního počítače:

·       výpočetní jednotku;

·       paměť;

·       vstupní zařízení;

·       výstupní zařízení;

·       programové instrukce;

·       možnost podmíněného větvení;

·       možnost opakování kroků.

Analytický stroj měl být řízen děrnými štítky. Podobný princip se používal například u tkalcovských stavů, kde děrné karty určovaly vzor tkaniny.

Babbageův stroj nebyl za jeho života dokončen v plné podobě. Jeho návrh však obsahoval základní myšlenku univerzálního programovatelného počítače.


2.6 Ada Lovelace a první algoritmus

Na Babbageově práci spolupracovala matematička Ada Lovelace.

Při popisu analytického stroje vytvořila postup, kterým měl stroj vypočítávat Bernoulliho čísla. Tento postup bývá označován za jeden z prvních publikovaných počítačových algoritmů.

Ada Lovelace také pochopila, že počítač nemusí pracovat pouze s čísly. Uvažovala, že pokud lze hudbu, text nebo jiné informace převést do vhodné symbolické podoby, mohl by s nimi stroj provádět různé operace.

Tato myšlenka předběhla dobu. Moderní počítače skutečně zpracovávají text, obraz, zvuk i video jako číselně reprezentovaná data.

Ada Lovelace však zároveň upozorňovala, že stroj dělá pouze to, co mu člověk dokáže zadat. Tato otázka se později stala součástí diskusí o tom, zda může počítač skutečně tvořit nebo myslet.


2.7 George Boole a matematická logika

V 19. století vytvořil britský matematik George Boole systém matematické logiky, dnes známý jako Booleova algebra.

Pracuje s pravdivostními hodnotami, které lze zjednodušeně chápat jako:

·       pravda;

·       nepravda.

V digitální technice mohou odpovídat hodnotám:

·       1;

·        

Booleova algebra umožňuje popsat logické operace:

·       AND – a současně;

·       OR – nebo;

·       NOT – negace;

·       XOR – výlučné nebo.

Například:

·       výrok A je pravdivý;

·       výrok B je pravdivý;

·       výraz A AND B je pravdivý pouze tehdy, když jsou pravdivé oba výroky.

Logické operace se později staly základem konstrukce digitálních obvodů a programování.


2.8 Formální logika a pravidla uvažování

Na přelomu 19. a 20. století se matematici snažili vytvořit přesný formální systém, ve kterém by bylo možné matematické tvrzení dokazovat pomocí jasných pravidel.

Cílem bylo popsat uvažování jako práci se symboly.

Pokud lze postup od předpokladů k závěru vyjádřit formálními pravidly, může jej teoreticky provádět také stroj.

Tato představa později ovlivnila tzv. symbolickou umělou inteligenci, která se snažila reprezentovat lidské znalosti pomocí:

·       pravidel;

·       symbolů;

·       logických výrazů;

·       vztahů mezi pojmy;

·       přesně definovaných postupů.

Symbolický přístup dominoval velké části raného výzkumu AI.


2.9 David Hilbert a rozhodovací problém

Německý matematik David Hilbert patřil mezi vědce, kteří se snažili vytvořit úplný a přesný základ matematiky.

Jednou z klíčových otázek byl tzv. rozhodovací problém. Zjednodušeně řečeno šlo o otázku, zda existuje univerzální postup, který by dokázal určit, zda je libovolné matematické tvrzení dokazatelné.

Tato otázka vedla k hlubokému studiu algoritmů, výpočtů a hranic toho, co lze mechanicky rozhodnout.

Právě v této souvislosti vznikly teoretické základy moderní informatiky.


2.10 Alan Turing a univerzální výpočetní stroj

Britský matematik Alan Turing navrhl ve 30. letech 20. století abstraktní model výpočtu známý jako Turingův stroj.

Turingův stroj není konkrétní fyzické zařízení. Jde o teoretický model, který se skládá z:

·       nekonečně dlouhé pásky rozdělené na políčka;

·       symbolů zapsaných na pásce;

·       čtecí a zapisovací hlavy;

·       konečné sady pravidel;

·       vnitřních stavů stroje.

V každém kroku stroj:

1.       přečte symbol;

2.       podle pravidla zapíše nový symbol;

3.       posune se doleva nebo doprava;

4.       změní svůj stav;

5.       pokračuje, dokud nedosáhne konečného stavu.

Turing ukázal, že jednoduchý formální stroj může vykonat jakýkoli výpočet, který lze popsat algoritmem.

Zvlášť významná byla myšlenka univerzálního Turingova stroje. Jeden stroj může napodobit činnost libovolného jiného výpočetního stroje, pokud dostane jeho popis a vstupní data.

To je základní princip univerzálního počítače: stejné fyzické zařízení může podle načteného programu fungovat jako kalkulačka, textový editor, hudební přehrávač nebo systém AI.


2.11 Turing a hranice výpočtu

Turingova práce neukázala pouze to, co počítače mohou dělat. Ukázala také, že existují problémy, které nelze obecným algoritmem vyřešit.

Známým příkladem je problém zastavení. Ptá se, zda lze vytvořit univerzální program, který u každého jiného programu předem rozhodne, zda se někdy zastaví, nebo poběží navždy.

Turing dokázal, že takový univerzální postup neexistuje.

Tento poznatek je důležitý, protože připomíná, že ani dokonale výkonný počítač nemůže vyřešit každý myslitelný problém.

Výpočetní výkon sice může být obrovský, ale existují teoretické hranice výpočtu.


2.12 Druhá světová válka a rozvoj výpočetní techniky

Druhá světová válka urychlila vývoj elektroniky, radarů, šifrování a výpočetních zařízení.

Alan Turing pracoval v britském centru Bletchley Park na metodách rozluštění německých šifer. Podílel se na vývoji postupů a zařízení používaných při analýze komunikace šifrované strojem Enigma.

Pro rozluštění jiných typů šifer byl v Bletchley Parku vytvořen také elektronický počítač Colossus.

Válečný vývoj ukázal praktickou hodnotu automatizovaných výpočtů. Po válce se výzkum počítačů přesunul také do univerzit, laboratoří a průmyslu.


2.13 První elektronické počítače

Ve 40. a 50. letech 20. století vznikly první elektronické počítače.

Byly obrovské, drahé a měly mnohem menší výkon než dnešní běžné zařízení. Přesto umožnily provádět výpočty rychlostí, která byla pro člověka nedosažitelná.

Mezi významné rané počítače patřily například:

·       ENIAC;

·       EDVAC;

·       EDSAC;

·       Manchester Baby;

·       UNIVAC.

Zpočátku byly programy často zadávány pomocí kabelů, přepínačů, děrných štítků nebo děrných pásek.

Postupně se prosadil princip uloženého programu, kdy jsou instrukce stejně jako data uchovávány v paměti počítače.

Tento princip je spojen mimo jiné se jménem matematika Johna von Neumanna.


2.14 John von Neumann a architektura počítače

Von Neumannova architektura popisuje počítač tvořený několika hlavními částmi:

·       pamětí;

·       řídicí jednotkou;

·       aritmeticko-logickou jednotkou;

·       vstupem;

·       výstupem.

Program i data jsou uloženy v paměti.

Procesor postupně načítá instrukce, vyhodnocuje je a provádí.

Tato koncepce se stala základem většiny klasických digitálních počítačů.

Vývoj AI byl od počátku závislý na vývoji hardwaru. Čím rychlejší byly procesory a čím větší byla paměť, tím složitější algoritmy mohli výzkumníci zkoušet.


2.15 McCulloch a Pitts: matematický neuron

V roce 1943 představili Warren McCulloch a Walter Pitts matematický model neuronu.

Biologický neuron přijímá signály od jiných buněk, zpracovává je a za určitých podmínek vyšle vlastní signál.

Jejich zjednodušený umělý neuron:

1.       přijímá několik vstupů;

2.       každému vstupu přiřazuje určitou váhu;

3.       hodnoty sečte;

4.       porovná součet s prahem;

5.       vytvoří výstup.

Tento model byl velmi jednoduchý, ale ukázal, že sítě propojených umělých neuronů mohou provádět logické operace.

Stal se jedním z teoretických základů neuronových sítí.


2.16 Hebbovo pravidlo učení

Psycholog Donald Hebb v roce 1949 popsal princip, podle kterého se spojení mezi neurony posiluje, pokud jsou opakovaně aktivní současně.

Zjednodušeně se tento princip vyjadřuje větou:

Neurony, které se aktivují společně, posilují své spojení.

Hebbovo pravidlo inspirovalo metody učení v umělých neuronových sítích.

Myšlenka byla zásadní: inteligentní chování nemusí být založeno pouze na ručně vytvořených pravidlech. Systém se může měnit podle zkušenosti.


2.17 Alan Turing a otázka myslících strojů

V roce 1950 publikoval Alan Turing článek „Computing Machinery and Intelligence“.

Začínal otázkou:

Mohou stroje myslet?

Turing si uvědomoval, že pojmy „stroj“ a „myšlení“ se obtížně definují. Proto navrhl praktický test založený na pozorovatelném chování.

Místo otázky, zda stroj skutečně myslí, se ptal, zda může v rozhovoru působit tak přesvědčivě, že jej člověk nerozezná od jiného člověka.


2.18 Turingův test

V klasické podobě probíhá Turingův test prostřednictvím textové komunikace.

Účastní se ho:

·       lidský hodnotitel;

·       druhý člověk;

·       počítačový systém.

Hodnotitel nevidí ostatní účastníky. Komunikuje s nimi pouze prostřednictvím textu.

Pokud po sérii otázek nedokáže spolehlivě určit, který účastník je stroj, lze říci, že stroj v testu úspěšně napodobil lidskou konverzaci.

Test byl významný, protože přesunul pozornost od vnitřní podstaty myšlení k pozorovatelnému chování.

Má však řadu omezení.

Systém může působit lidsky, aniž by:

·       skutečně rozuměl významu;

·       měl vědomí;

·       měl vlastní cíle;

·       chápal svět;

·       byl obecně inteligentní;

·       uměl řešit praktické problémy.

Turingův test proto není úplnou definicí inteligence, ale zůstává důležitým historickým konceptem.


2.19 První programy napodobující inteligenci

V 50. letech začali vědci vytvářet programy, které řešily úlohy dříve považované za projev lidské inteligence.

Patřily mezi ně:

·       hraní her;

·       dokazování matematických vět;

·       řešení hlavolamů;

·       symbolické výpočty;

·       jednoduché plánování;

·       práce s jazykem.

Tyto úspěchy vyvolaly velký optimismus. Někteří výzkumníci očekávali, že stroje s obecnou inteligencí vzniknou během několika desetiletí.

Tehdejší programy však fungovaly především v přesně vymezeném prostředí. Nedokázaly se snadno přizpůsobit nečekaným situacím.


2.20 Arthur Samuel a program hrající dámu

Arthur Samuel vytvořil program, který hrál dámu a zlepšoval se pomocí zkušenosti.

Program hodnotil různé pozice na hrací desce a vybíral tahy, které vedly k výhodnějšímu výsledku.

Samuel používal pojem „machine learning“ pro přístup, při kterém se počítač učí vykonávat úlohu, aniž by byl každý krok výslovně naprogramován.

Program hrající dámu byl významný z několika důvodů:

·       ukázal, že počítač může využívat zkušenost;

·       spojil hledání možností s hodnocením situace;

·       předvedl praktický význam učení;

·       přispěl k popularizaci pojmu strojové učení.


2.21 Logic Theorist

V roce 1956 vytvořili Allen Newell, Herbert Simon a Cliff Shaw program Logic Theorist.

Jeho cílem bylo dokazovat matematické věty.

Program pracoval se symboly a hledal cestu od známých předpokladů k požadovanému závěru.

Logic Theorist dokázal znovu odvodit řadu matematických důkazů. V některých případech našel postup odlišný od toho, který byl uveden v původním zdroji.

Autoři jej považovali za program napodobující lidské řešení problémů.

Logic Theorist bývá označován za jeden z prvních skutečných programů umělé inteligence.


2.22 Dartmouthská konference a vznik názvu AI

Za formální vznik oboru umělé inteligence se obvykle považuje letní výzkumný projekt uspořádaný v roce 1956 na Dartmouth College ve Spojených státech.

S návrhem akce byli spojeni zejména:

·       John McCarthy;

·       Marvin Minsky;

·       Nathaniel Rochester;

·       Claude Shannon.

V návrhu projektu se objevil termín „artificial intelligence“, tedy umělá inteligence.

Účastníci vycházeli z přesvědčení, že různé aspekty učení a inteligence lze popsat natolik přesně, aby je mohl napodobit stroj.

Mezi zkoumaná témata patřily:

·       neuronové sítě;

·       automatické dokazování;

·       zpracování jazyka;

·       abstrakce;

·       kreativita;

·       učení;

·       řešení problémů.

Dartmouthská konference nevytvořila hotovou inteligentní technologii. Její význam spočíval v tom, že sjednotila různé výzkumné směry pod novým názvem a pomohla vytvořit samostatný akademický obor.


2.23 John McCarthy

John McCarthy patří mezi zakladatele umělé inteligence.

Kromě použití názvu „artificial intelligence“ se podílel na rozvoji několika významných oblastí.

Vytvořil programovací jazyk Lisp, který byl po desetiletí jedním z nejpoužívanějších jazyků pro výzkum AI.

Lisp byl vhodný pro práci se symboly, seznamy a rekurzivními strukturami. To odpovídalo tehdejšímu symbolickému přístupu k inteligenci.

McCarthy se zabýval také:

·       reprezentací znalostí;

·       logickým uvažováním;

·       sdílením výpočetního času;

·       obecnými principy inteligentního chování.

Prosazoval myšlenku, že lze vytvořit stroj schopný logicky pracovat s informacemi o světě.


2.24 Marvin Minsky

Marvin Minsky byl dalším významným zakladatelem oboru.

Spoluzaložil laboratoř umělé inteligence na Massachusetts Institute of Technology.

Zabýval se:

·       neuronovými sítěmi;

·       symbolickou AI;

·       reprezentací znalostí;

·       vnímáním;

·       robotikou;

·       teoriemi lidské mysli.

Minsky zdůrazňoval, že inteligence není jediná schopnost, ale výsledek spolupráce velkého množství jednodušších procesů.

Tuto myšlenku později rozpracoval v koncepci „společnosti mysli“, podle níž lidská inteligence vzniká spoluprací mnoha specializovaných mentálních mechanismů.


2.25 Symbolická umělá inteligence

V prvních desetiletích výzkumu převládal symbolický přístup.

Jeho základní myšlenka byla následující:

1.       znalosti lze vyjádřit pomocí symbolů;

2.       vztahy mezi symboly lze popsat pravidly;

3.       inteligentní chování vzniká manipulací se symboly podle logických postupů.

Například:

·       všichni savci jsou teplokrevní;

·       pes je savec;

·       z toho plyne, že pes je teplokrevný.

Symbolická AI byla vhodná pro:

·       logické úlohy;

·       plánování;

·       matematické dokazování;

·       práci s přesně definovanými pravidly;

·       expertní systémy.

Její nevýhodou byla obtížná práce s neurčitostí, neúplnými informacemi a složitým reálným světem.


2.26 General Problem Solver

Newell a Simon vytvořili program General Problem Solver.

Jeho cílem bylo řešit různé druhy problémů pomocí obecné strategie.

Program porovnával:

·       aktuální stav;

·       cílový stav.

Poté hledal operace, které by rozdíl mezi nimi zmenšily.

Tento přístup se označuje jako analýza prostředků a cílů.

Příklad:

Cíl: dostat se z místnosti.

Aktuální stav: dveře jsou zavřené.

Rozdíl: dveře je třeba otevřít.

Podmínka: k otevření je potřeba klíč.

Nový dílčí cíl: najít klíč.

Tento typ rozkladu problému na menší kroky se používá v informatice i dnes.

General Problem Solver však fungoval pouze u problémů, které bylo možné vhodně symbolicky popsat.


2.27 Vyhledávání ve stavovém prostoru

Mnoho raných programů AI řešilo problémy jako hledání cesty mezi možnými stavy.

Stav může představovat například:

·       pozici figurek na šachovnici;

·       uspořádání hlavolamu;

·       polohu robota;

·       aktuální fázi plánu;

·       výsledek série rozhodnutí.

Přechod mezi stavy vzniká provedením určité akce.

Program hledá posloupnost akcí, která vede od počátečního stavu k cíli.

Problémem je, že počet možností může růst mimořádně rychle. Tomu se říká kombinatorická exploze.

Například v šachu nelze jednoduše prozkoumat všechny možné partie až do konce.

Proto AI používá heuristiky.


2.28 Heuristiky

Heuristika je praktické pravidlo, které pomáhá rychleji najít dobré řešení, aniž by bylo nutné prozkoumat všechny možnosti.

Příklad při hledání trasy:

·       upřednostňuj cestu, která se přibližuje k cíli;

·       vyhýbej se překážkám;

·       zohledni odhad zbývající vzdálenosti.

Heuristika nezaručuje vždy nejlepší řešení. Může však výrazně snížit množství práce.

Lidé používají heuristiky běžně. Při rozhodování často nevyhodnocujeme všechny teoretické možnosti, ale spoléháme na zkušenost, zkratky a odhady.


2.29 Perceptron

V 50. letech vytvořil Frank Rosenblatt model zvaný perceptron.

Perceptron byl jednoduchý učící se systém inspirovaný neuronem.

Přijímal několik vstupních hodnot, násobil je vahami, sečetl je a podle výsledku přiřadil vstup do jedné ze dvou tříd.

Mohl například rozhodovat:

·       ano, nebo ne;

·       kategorie A, nebo kategorie B;

·       objekt přítomen, nebo nepřítomen.

Perceptron se učil úpravou vah podle chyb.

Ve své době vyvolal velká očekávání. Některá veřejná vyjádření naznačovala, že podobné systémy budou brzy schopny rozpoznávat objekty, jazyky nebo lidské chování.

Jednoduchý perceptron však měl zásadní omezení. Nedokázal řešit problémy, které nebylo možné oddělit jednoduchou rozhodovací hranicí.


2.30 Raný optimismus

V 50. a 60. letech panovalo mezi některými výzkumníky velké přesvědčení, že významné části lidské inteligence budou brzy napodobeny počítačem.

Důvodem byly rychlé počáteční úspěchy:

·       počítače hrály hry;

·       dokazovaly věty;

·       řešily logické úlohy;

·       napodobovaly jednoduchý rozhovor;

·       pracovaly se symboly;

·       učily se z omezených příkladů.

Tyto programy však obvykle fungovaly v malém a přesně popsaném prostředí.

Rozdíl mezi laboratorním problémem a skutečným světem byl podceněn.


2.31 Problém reálného světa

Reálné prostředí je složité, neúplné a proměnlivé.

Inteligentní systém musí pracovat s problémy, jako jsou:

·       nejasné informace;

·       chybějící údaje;

·       více možných významů;

·       nečekané události;

·       fyzické omezení;

·       sociální kontext;

·       obrovské množství běžných znalostí;

·       nejistota;

·       změny v čase.

Například věta „Polož hrnek na stůl“ předpokládá řadu znalostí:

·       hrnek je fyzický předmět;

·       stůl má horní plochu;

·       hrnek se má postavit stabilně;

·       nemá se položit mimo okraj;

·       nemá se převrátit;

·       nesmí se položit na jiný křehký předmět.

Člověk tyto znalosti považuje za samozřejmé. Pro počítač je nutné je nějak reprezentovat nebo se je naučit.


2.32 ELIZA

V 60. letech vytvořil Joseph Weizenbaum program ELIZA.

Nejznámější verze napodobovala psychoterapeuta.

Program používal jednoduchá pravidla:

·       rozpoznal určitá klíčová slova;

·       převedl větu do jiné gramatické osoby;

·       položil obecnou doplňující otázku;

·       opakoval část uživatelova sdělení.

Uživatel například napsal:

„Mám problémy se svou matkou.“

Program mohl odpovědět:

„Řekněte mi více o své matce.“

ELIZA nerozuměla rozhovoru v dnešním smyslu. Přesto někteří uživatelé získali dojem, že jim program rozumí.

Tento jev se někdy označuje jako efekt ELIZA: lidé mají sklon přisuzovat počítačovému systému hlubší porozumění, než jaké skutečně má.

Efekt ELIZA je důležitý i v době moderních chatbotů. Plynulá a empatická formulace může vyvolat dojem vědomí nebo osobnosti, aniž by jej dokazovala.


2.33 SHRDLU

Na přelomu 60. a 70. let vytvořil Terry Winograd systém SHRDLU.

Program komunikoval s uživatelem o jednoduchém virtuálním světě obsahujícím geometrické objekty.

Uživatel mohl zadat příkaz typu:

„Polož červený blok na modrou kostku.“

Systém dokázal:

·       rozpoznat objekty;

·       pracovat s jejich vlastnostmi;

·       reagovat na příkazy;

·       odpovídat na otázky;

·       pamatovat si některé předchozí kroky;

·       plánovat jednoduché akce.

SHRDLU působil velmi pokročile, protože spojoval jazyk, plánování a reprezentaci světa.

Jeho úspěch byl však závislý na velmi omezeném prostředí. Jakmile by měl pracovat s celým reálným světem, množství potřebných znalostí by dramaticky vzrostlo.


2.34 Robot Shakey

Shakey byl jeden z prvních mobilních robotů schopných kombinovat vnímání, plánování a pohyb.

Byl vybaven například:

·       kamerou;

·       senzory;

·       počítačovým řízením;

·       možností pohybovat se v jednoduchém prostředí.

Robot dokázal:

·       rozpoznat některé objekty;

·       vytvořit plán;

·       projet mezi místnostmi;

·       přesouvat předměty;

·       reagovat na příkazy.

Jeho činnost byla velmi pomalá. Jednoduchý úkol mohl vyžadovat dlouhý výpočet.

Přesto Shakey ukázal, že systém může propojit několik schopností:

·       vnímání;

·       model světa;

·       logické plánování;

·       fyzické jednání.


2.35 Strojový překlad a první zklamání

Jedním z prvních velkých cílů AI byl automatický překlad.

Během studené války existoval silný zájem o překlad mezi ruštinou a angličtinou.

První ukázky vypadaly nadějně, protože pracovaly s omezenou slovní zásobou a jednoduchými větami.

Brzy se však ukázalo, že přirozený jazyk je mimořádně složitý.

Překlad vyžaduje znalost:

·       gramatiky;

·       významu slov;

·       kontextu;

·       idiomů;

·       kulturních souvislostí;

·       tématu;

·       záměru mluvčího.

Jedno slovo může mít několik významů a správný překlad závisí na celé větě nebo širším textu.

Slabé výsledky vedly k omezení financování některých projektů strojového překladu.


2.36 První AI zima

Pojem „AI zima“ označuje období, kdy zájem, investice a financování výzkumu umělé inteligence výrazně poklesly.

První takové období nastalo přibližně v 70. letech.

Hlavní příčiny byly:

·       přehnané předpovědi;

·       omezený výkon počítačů;

·       nedostatek dat;

·       vysoké náklady;

·       slabé výsledky mimo laboratorní prostředí;

·       obtížné zpracování jazyka;

·       kombinatorická exploze;

·       neschopnost pracovat s běžnými znalostmi;

·       zklamání financujících institucí.

Výzkum AI nezanikl. Pokračoval v menším rozsahu, často pod jinými názvy nebo v užších specializacích.

AI zima ukázala, že marketingová očekávání mohou výrazně předběhnout skutečné technické možnosti.


2.37 Kritika perceptronů

V roce 1969 publikovali Marvin Minsky a Seymour Papert knihu analyzující možnosti a omezení perceptronů.

Ukázali, že jednoduché jednovrstvé perceptrony nedokážou řešit některé základní úlohy, například problém XOR.

To vedlo k poklesu zájmu o neuronové sítě.

Důležité je, že kritika se týkala především jednoduchých modelů. Vícevrstvé sítě by některá omezení překonat dokázaly.

V té době však chyběly:

·       dostatečně účinné trénovací metody;

·       výkonné počítače;

·       velké datové soubory;

·       praktické nástroje.

Výzkum neuronových sítí proto na určitou dobu ustoupil symbolické AI.


2.38 Expertní systémy

V 70. a 80. letech se pozornost přesunula k expertním systémům.

Expertní systém měl napodobit rozhodování odborníka v úzce vymezené oblasti.

Obvykle se skládal z:

·       znalostní báze;

·       souboru pravidel;

·       inferenčního mechanismu;

·       uživatelského rozhraní;

·       někdy také vysvětlujícího modulu.

Znalosti byly často zapisovány ve tvaru:

Jestliže nastane podmínka, pak proveď závěr nebo akci.

Například:

Jestliže má pacient horečku, kašel a určité výsledky vyšetření, pak zvaž konkrétní diagnózu.

Expertní systémy byly úspěšnější než obecné projekty AI, protože se soustředily na omezenou oblast.


2.39 DENDRAL

DENDRAL patřil mezi první významné expertní systémy.

Pomáhal chemikům určovat strukturu organických molekul na základě experimentálních dat.

Systém kombinoval:

·       znalosti chemiků;

·       pravidla;

·       generování možných struktur;

·       porovnávání variant s naměřenými údaji.

DENDRAL ukázal, že AI může být prakticky užitečná, pokud se zaměří na odbornou a dobře vymezenou oblast.


2.40 MYCIN

MYCIN byl experimentální expertní systém určený k podpoře diagnostiky některých bakteriálních infekcí a doporučení antibiotické léčby.

Pracoval s řadou pravidel a také s mírou jistoty.

Systém se mohl ptát na:

·       příznaky;

·       výsledky laboratorních testů;

·       vlastnosti pacienta;

·       pravděpodobný typ infekce.

MYCIN dosahoval v některých testech velmi dobrých výsledků. Přesto nebyl běžně zaveden do klinické praxe.

Důvody zahrnovaly:

·       právní odpovědnost;

·       integraci do nemocničního provozu;

·       nedůvěru uživatelů;

·       technická omezení;

·       obtížnou údržbu znalostní báze.

Příklad MYCIN ukazuje, že technická přesnost sama o sobě nestačí. Úspěšné nasazení vyžaduje také důvěru, procesy, legislativu a praktickou použitelnost.


2.41 Znalostní inženýrství

Při vývoji expertních systémů bylo nutné získat znalosti od odborníků a převést je do pravidel.

Tento proces se označoval jako znalostní inženýrství.

Znalostní inženýr vedl rozhovory s experty a snažil se zjistit:

·       jaké informace používají;

·       jak rozhodují;

·       jaké výjimky zohledňují;

·       jak poznají neobvyklý případ;

·       jak pracují s nejistotou.

To bylo obtížné, protože odborníci často nedokážou přesně popsat všechny kroky svého uvažování.

Mnoho znalostí je založeno na zkušenosti a intuici.

Tento problém se označoval jako úzké hrdlo získávání znalostí.


2.42 Omezení expertních systémů

Expertní systémy měly několik významných nevýhod.

Ruční tvorba pravidel

Každé pravidlo musel vytvořit a ověřit člověk.

Obtížná údržba

Při tisících pravidel bylo složité zjistit, zda si neodporují.

Křehkost

Systém mohl výborně pracovat ve známých situacích, ale selhat při nečekaném vstupu.

Omezená schopnost učení

Většina systémů se sama neučila z nových dat.

Náklady

Vývoj a aktualizace byly drahé.

Závislost na odbornících

Kvalita systému závisela na dostupnosti expertů a přesnosti jejich znalostí.

Tyto problémy postupně snižovaly ekonomickou výhodnost expertních systémů.


2.43 Rozmach komerční AI v 80. letech

V 80. letech vznikaly společnosti zaměřené na expertní systémy a specializovaný hardware.

Některé organizace očekávaly, že expertní systémy zásadně změní podnikání.

Používaly se například pro:

·       konfiguraci počítačů;

·       diagnostiku strojů;

·       finanční rozhodování;

·       plánování;

·       geologický průzkum;

·       technickou podporu.

Jedním ze známých úspěchů byl systém XCON, který pomáhal konfigurovat objednávky počítačových systémů.

Komerční zájem však vedl také k dalším přehnaným očekáváním.


2.44 Japonský projekt počítačů páté generace

Japonsko zahájilo v 80. letech rozsáhlý projekt vývoje počítačů páté generace.

Cílem bylo vytvořit nové počítačové systémy zaměřené na:

·       logické programování;

·       paralelní výpočty;

·       zpracování znalostí;

·       inteligentní rozhraní;

·       řešení složitých problémů.

Projekt vyvolal obavy v dalších zemích, které začaly podporovat vlastní výzkumné programy.

Výsledky však nenaplnily všechna očekávání. Vývoj běžných počítačů a jiných programovacích přístupů postupoval rychleji.


2.45 Druhá AI zima

Na konci 80. let a začátku 90. let přišel další pokles zájmu o AI.

Příčiny zahrnovaly:

·       vysoké náklady expertních systémů;

·       obtížnou údržbu;

·       zánik trhu specializovaných pracovních stanic;

·       konkurenci běžných počítačů;

·       nesplněné obchodní sliby;

·       slabou schopnost systémů přizpůsobovat se;

·       zklamání investorů.

Mnoho společností zaměřených na AI zaniklo nebo změnilo zaměření.

Výzkum však pokračoval v oblastech, jako byly:

·       statistické metody;

·       rozpoznávání vzorů;

·       neuronové sítě;

·       robotika;

·       pravděpodobnostní modely;

·       optimalizace.


2.46 Návrat neuronových sítí

V 80. letech získaly neuronové sítě nový impuls díky rozvoji algoritmu zpětného šíření chyby.

Tento algoritmus umožnil efektivněji trénovat vícevrstvé neuronové sítě.

Zjednodušený postup:

1.       síť obdrží vstup;

2.       vypočítá výstup;

3.       porovná jej se správnou odpovědí;

4.       určí velikost chyby;

5.       chyba se šíří zpět sítí;

6.       váhy spojení se upraví;

7.       proces se opakuje.

Vícevrstvé sítě dokázaly vytvářet složitější rozhodovací hranice než jednoduchý perceptron.

Jejich praktické možnosti však stále omezoval výkon počítačů a množství dat.


2.47 Pravděpodobnostní přístup

Reálný svět obsahuje nejistotu.

Systém často neví jistě:

·       zda je objekt na snímku člověk;

·       zda pacient trpí určitou nemocí;

·       zda transakce představuje podvod;

·       jaké bude počasí;

·       jaký význam má nejednoznačná věta.

Proto se stále více používaly pravděpodobnostní metody.

Místo pevného závěru mohl systém pracovat s tvrzením:

„Existuje 80% pravděpodobnost, že jde o poruchu typu A.“

Významnou roli získaly například Bayesovské sítě, které reprezentují pravděpodobnostní vztahy mezi událostmi.

Pravděpodobnostní přístup umožnil AI lépe pracovat s neúplnými a nejistými informacemi.


2.48 Statistické strojové učení

Od 90. let se výrazně prosazoval přístup založený na datech a statistice.

Namísto ručního zadávání tisíců pravidel se modely učily z příkladů.

Rozvíjely se metody jako:

·       rozhodovací stromy;

·       regresní modely;

·       metoda podpůrných vektorů;

·       k-nearest neighbors;

·       náhodné lesy;

·       Bayesovské klasifikátory;

·       shlukování;

·       skryté Markovovy modely.

Tyto metody byly úspěšné zejména tam, kde bylo k dispozici dostatečné množství kvalitních dat.

AI se postupně přestala chápat pouze jako napodobování lidského logického uvažování. Stále více znamenala vytváření modelů, které dokážou přesně předpovídat nebo klasifikovat.


2.49 Rozpoznávání řeči

Rozpoznávání řeči bylo dlouhodobě velmi obtížným problémem.

Řeč se liší podle:

·       mluvčího;

·       přízvuku;

·       rychlosti;

·       hlasitosti;

·       okolního hluku;

·       zdravotního stavu;

·       použitého mikrofonu;

·       kontextu.

Statistické metody umožnily modelovat pravděpodobné posloupnosti zvuků a slov.

Významnou roli hrály skryté Markovovy modely a jazykové modely založené na pravděpodobnosti slovních posloupností.

S rostoucím množstvím dat se přesnost rozpoznávání řeči postupně zlepšovala.


2.50 Statistický strojový překlad

Také strojový překlad se postupně přesunul od ručně psaných gramatických pravidel ke statistickým metodám.

Modely analyzovaly velké množství paralelních textů, tedy stejných dokumentů v různých jazycích.

Zjišťovaly například:

·       která slova si často odpovídají;

·       jak se mění slovosled;

·       jaké fráze se obvykle překládají společně;

·       který překlad je v daném kontextu pravděpodobnější.

Statistický překlad přinesl výrazné zlepšení, přesto často vytvářel nepřirozené věty a měl potíže s delším kontextem.


2.51 IBM Deep Blue

V roce 1997 porazil šachový počítač IBM Deep Blue úřadujícího mistra světa Garriho Kasparova v zápase na šest partií.

Událost měla velký mediální význam.

Deep Blue používal:

·       velmi rychlé prohledávání herního stromu;

·       specializovaný hardware;

·       hodnoticí funkce;

·       databáze šachových pozic;

·       pravidla vytvořená s pomocí šachových odborníků.

Nešlo o obecnou inteligenci. Systém byl specializovaný na šachy.

Přesto vítězství ukázalo, že kombinace výpočetního výkonu, algoritmů a odborných znalostí může překonat člověka v intelektuálně náročné, ale přesně vymezené úloze.


2.52 Rozdíl mezi Deep Blue a moderním učením

Deep Blue bývá někdy chybně popisován jako systém podobný dnešním neuronovým sítím.

Ve skutečnosti se opíral především o:

·       prohledávání velkého množství tahů;

·       ručně vytvořené hodnoticí principy;

·       specializaci na šachy;

·       rozsáhlý výpočetní výkon.

Moderní systémy strojového učení se ve větší míře učí reprezentace a strategie z dat nebo ze simulovaného hraní.

Deep Blue byl významným milníkem, ale představoval jiný přístup než pozdější systémy jako AlphaGo.


2.53 Internet a vznik velkých dat

Rozšíření internetu zásadně změnilo podmínky pro vývoj AI.

Začalo vznikat obrovské množství digitálních dat:

·       webové stránky;

·       e-maily;

·       fotografie;

·       videa;

·       nákupní historie;

·       vyhledávací dotazy;

·       příspěvky na sociálních sítích;

·       mapové údaje;

·       záznamy ze senzorů;

·       digitální knihy.

Data se stala klíčovou surovinou strojového učení.

Čím více vhodných příkladů měl model k dispozici, tím lépe mohl rozpoznávat vzory.

Internet také umožnil shromažďovat zpětnou vazbu od milionů uživatelů.


2.54 Mooreův zákon a růst výkonu

Vývoj AI výrazně podpořil dlouhodobý růst výkonu počítačů.

S rostoucím počtem tranzistorů bylo možné:

·       provádět více výpočtů;

·       pracovat s většími modely;

·       ukládat více dat;

·       rychleji trénovat algoritmy;

·       používat AI v běžných zařízeních.

Zároveň klesala cena výpočetního výkonu a datových úložišť.

Úlohy, které dříve vyžadovaly specializovanou laboratoř, bylo později možné provádět na běžném počítači nebo v datovém centru.


2.55 Grafické procesory

Grafické procesory neboli GPU byly původně vyvinuty zejména pro vykreslování počítačové grafiky.

Grafika vyžaduje provádění velkého množství podobných matematických operací současně.

Stejná vlastnost je užitečná také při trénování neuronových sítí.

GPU mohou paralelně provádět operace s maticemi a vektory, které jsou základem hlubokého učení.

Jejich využití výrazně urychlilo trénování rozsáhlých modelů.

Bez výkonných grafických procesorů by rozvoj moderní generativní AI probíhal mnohem pomaleji.


2.56 Soutěže a veřejné datové soubory

Vývoj strojového učení podpořily také veřejné soutěže a standardizované datové soubory.

Výzkumníci mohli porovnávat metody na stejných úlohách.

Příklady úloh:

·       rozpoznání ručně psaných číslic;

·       klasifikace fotografií;

·       rozpoznávání řeči;

·       předpověď hodnocení filmů;

·       analýza textu;

·       detekce objektů.

Soutěže vytvářely tlak na zlepšování přesnosti a usnadňovaly měření pokroku.

Zároveň však hrozilo, že se výzkum příliš zaměří na konkrétní test místo skutečného praktického problému.


2.57 ImageNet

ImageNet je rozsáhlý soubor obrazových dat vytvořený pro výzkum počítačového vidění.

Obsahoval miliony fotografií označených podle kategorií.

Díky němu mohli výzkumníci trénovat a porovnávat modely rozpoznávající velké množství objektů.

Každoroční soutěže ImageNet se staly důležitým měřítkem vývoje počítačového vidění.

Právě zde došlo v roce 2012 k jednomu z nejvýznamnějších průlomů hlubokého učení.


2.58 AlexNet a průlom hlubokého učení

V roce 2012 zvítězila v obrazové soutěži neuronová síť známá jako AlexNet.

Dosáhla výrazně lepšího výsledku než konkurenční metody.

Úspěch byl založen na kombinaci:

·       hluboké konvoluční neuronové sítě;

·       velkého množství označených obrázků;

·       využití grafických procesorů;

·       účinnějších trénovacích postupů;

·       metod omezujících přeučení.

AlexNet ukázal, že hluboké neuronové sítě mohou při dostatku dat a výpočetního výkonu výrazně překonat ručně navrhované obrazové metody.

Rok 2012 je proto často označován za začátek moderní revoluce hlubokého učení.


2.59 Konvoluční neuronové sítě

Konvoluční neuronové sítě byly navrženy zejména pro práci s obrazem.

Postupně se učí rozpoznávat různé úrovně znaků.

Nižší vrstvy mohou reagovat na:

·       hrany;

·       přechody barev;

·       jednoduché tvary.

Vyšší vrstvy mohou kombinovat tyto znaky do složitějších struktur:

·       oči;

·       kola;

·       obličeje;

·       části zvířat;

·       celé objekty.

Významnou vlastností je, že síť nemusí mít všechny obrazové znaky ručně naprogramovány. Učí se je z dat.


2.60 Hluboké učení v řeči a jazyce

Po úspěších v obrazu se hluboké učení rychle rozšířilo také do dalších oblastí.

Neuronové sítě zlepšily:

·       rozpoznávání řeči;

·       syntézu hlasu;

·       automatický překlad;

·       analýzu textu;

·       vyhledávání;

·       doporučovací systémy.

Modely dokázaly pracovat s méně ručně vytvořenými vlastnostmi a učit se vhodné reprezentace přímo z dat.

Tím se snížila potřeba, aby odborníci přesně navrhovali každý krok zpracování.


2.61 Reprezentační učení

Tradiční systémy často vyžadovaly, aby člověk předem určil, které vlastnosti dat jsou důležité.

Například při rozpoznávání obličeje mohl programátor navrhnout měření:

·       vzdálenosti mezi očima;

·       tvaru nosu;

·       obrysu hlavy;

·       polohy úst.

Hluboké učení umožnilo, aby model sám vytvářel vnitřní reprezentace užitečné pro danou úlohu.

Tomu se říká reprezentační učení.

Model se neučí pouze konečnou odpověď. Učí se také způsob, jak data převést do vhodné vnitřní podoby.


2.62 Rekurentní neuronové sítě

Při práci s textem, řečí nebo časovými řadami je důležité pořadí.

Rekurentní neuronové sítě byly navrženy tak, aby zpracovávaly posloupnosti.

V určité podobě uchovávaly informaci o předchozích prvcích.

Mohly se používat například pro:

·       předpověď dalšího slova;

·       analýzu věty;

·       rozpoznávání řeči;

·       předpověď časové řady;

·       generování textu.

Měly však potíže s uchováním velmi dlouhého kontextu a s efektivním paralelním trénováním.

Později byly částečně nahrazeny transformery.


2.63 Neuronový strojový překlad

Kolem poloviny 2010. let začal statistický překlad nahrazovat neuronový strojový překlad.

Namísto skládání překladu z jednotlivých frází používal neuronový model celkovou reprezentaci věty.

Systémy typu encoder–decoder:

1.       převedly vstupní větu do vnitřní reprezentace;

2.       z ní postupně vytvářely větu v cílovém jazyce.

Výsledky byly často plynulejší a přirozenější.

Problémem zůstával dlouhý text, vzácná slova a uchování všech důležitých informací.


2.64 Mechanismus pozornosti

Mechanismus pozornosti umožnil modelu při vytváření každé části výstupu zaměřit se na nejdůležitější části vstupu.

Při překladu například nemusí být celá věta stlačena do jediné pevné reprezentace.

Když model vytváří konkrétní slovo překladu, může přikládat větší význam odpovídajícím slovům ve vstupní větě.

Pozornost vedla k výraznému zlepšení práce s delšími posloupnostmi.

Později se stala klíčovým základem transformerů.


2.65 AlphaGo

Hra Go byla dlouho považována za mimořádně náročnou pro počítače.

Má jednoduchá pravidla, ale obrovské množství možných pozic a tahů.

V roce 2016 porazil systém AlphaGo jihokorejského profesionálního hráče Lee Sedola v zápase na pět partií.

AlphaGo kombinoval:

·       hluboké neuronové sítě;

·       učení z lidských partií;

·       posilované učení;

·       hraní proti vlastní kopii;

·       prohledávání herního stromu;

·       odhad hodnoty pozice.

Výsledek byl překvapivý, protože mnoho odborníků očekávalo takový úspěch až později.


2.66 Posilované učení

Posilované učení je metoda, při které se agent učí prostřednictvím odměn a trestů.

Agent:

1.       pozoruje stav prostředí;

2.       zvolí akci;

3.       obdrží odměnu;

4.       prostředí se změní;

5.       agent upraví svou strategii.

Cílem je maximalizovat dlouhodobou celkovou odměnu.

Příklady využití:

·       hraní her;

·       řízení robota;

·       optimalizace procesů;

·       plánování;

·       řízení spotřeby energie;

·       rozhodování v simulacích.

Posilované učení se liší od učení s učitelem. Systém nemusí mít pro každý krok předem připravenou správnou odpověď. Učí se z následků vlastních rozhodnutí.


2.67 AlphaGo Zero

Pozdější systém AlphaGo Zero se učil hru bez využití databáze lidských partií.

Dostal pouze pravidla a hrál velké množství partií sám proti sobě.

Postupně vytvářel vlastní strategie.

Tento výsledek byl významný, protože ukázal, že systém může v přesně definovaném prostředí dosáhnout vysoké úrovně bez napodobování lidských expertů.

Je však důležité zdůraznit, že hra Go má:

·       jasná pravidla;

·       jednoznačný cíl;

·       snadno měřitelný výsledek;

·       možnost provést obrovské množství simulací.

Reálný svět takto přesně definovaný není.


2.68 Transformer

V roce 2017 byla představena architektura transformer.

Jejím základním prvkem je mechanismus self-attention neboli sebepozornost.

Model může vyhodnocovat vztahy mezi různými částmi vstupní posloupnosti bez nutnosti zpracovávat text výhradně slovo po slovu.

To přineslo několik výhod:

·       lepší práci s dlouhým kontextem;

·       efektivnější paralelní trénování;

·       škálování na velké datové soubory;

·       kvalitnější reprezentaci významových vztahů;

·       použití v textu, obrazu, zvuku i videu.

Transformery se staly základem většiny moderních velkých jazykových modelů.


2.69 Sebepozornost

Sebepozornost umožňuje modelu určit, které části vstupu spolu souvisejí.

Ve větě:

„Petr položil sklenici na stůl, protože byl stabilní.“

Model musí odhadnout, k čemu se vztahuje slovo „stabilní“.

Mechanismus pozornosti porovnává jednotlivé prvky věty a přiřazuje jim různou důležitost.

V textu může pomáhat chápat:

·       vztahy mezi slovy;

·       odkazy zájmen;

·       význam podle kontextu;

·       vazby mezi vzdálenými částmi dokumentu.

Pozornost neznamená lidské vědomé soustředění. Jde o matematický mechanismus určující váhu vztahů mezi prvky.


2.70 Předtrénování

Významnou změnou bylo předtrénování velkých modelů na rozsáhlém množství textu.

Model se nejprve učí obecné jazykové vzory například pomocí úlohy:

·       předpověz další část textu;

·       doplň chybějící slovo;

·       rekonstruuj zakryté části;

·       rozliš správné a nesprávné pokračování.

Tím získá obecnou schopnost pracovat s jazykem.

Následně může být přizpůsoben konkrétní úloze pomocí menšího množství specializovaných dat.

Tento postup je efektivnější než trénovat pro každou úlohu úplně nový model.


2.71 Word embeddings

Ještě před rozšířením transformerů se významným nástrojem staly vektorové reprezentace slov.

Každé slovo je převedeno na seznam čísel, tedy vektor.

Slova používaná v podobných souvislostech mají podobné vektory.

Model může zachytit vztahy typu:

·       král a královna;

·       muž a žena;

·       Praha a Česko;

·       Paříž a Francie.

Vektorové reprezentace umožnily pracovat s významovou podobností matematickým způsobem.

Moderní modely používají kontextové reprezentace, ve kterých může mít stejné slovo různou reprezentaci podle věty.


2.72 BERT

BERT je transformerový jazykový model zaměřený na porozumění textu.

Byl trénován tak, aby využíval kontext z obou stran určitého slova.

To mu pomáhalo při úlohách jako:

·       klasifikace textu;

·       hledání odpovědí;

·       rozpoznávání pojmenovaných entit;

·       analýza významu;

·       vyhledávání.

BERT a podobné modely výrazně zlepšily výsledky v mnoha úlohách zpracování přirozeného jazyka.

Ukázaly, že jeden rozsáhlý předtrénovaný model lze přizpůsobit mnoha různým úlohám.


2.73 Generativní předtrénované transformery

Zkratka GPT znamená Generative Pre-trained Transformer.

Název vyjadřuje tři hlavní vlastnosti:

Generative

Model vytváří nový text.

Pre-trained

Nejprve je předtrénován na velkém množství dat.

Transformer

Používá transformerovou architekturu.

GPT modely se učí předpovídat pokračování textu. Tato zdánlivě jednoduchá úloha je nutí učit se velké množství jazykových a faktických vzorů.

S růstem modelů se objevily schopnosti:

·       odpovídat na otázky;

·       shrnovat text;

·       překládat;

·       doplňovat kód;

·       upravovat styl;

·       vysvětlovat pojmy;

·       vytvářet návrhy;

·       plnit instrukce.


2.74 Škálování modelů

Výzkumníci zjistili, že výkon jazykových modelů často roste s kombinací:

·       většího množství parametrů;

·       většího množství dat;

·       vyššího výpočetního výkonu;

·       kvalitnějšího tréninku.

Tento trend vedl ke vzniku stále větších modelů.

Větší model však není automaticky lepší ve všech ohledech.

Přináší také problémy:

·       vysokou cenu trénování;

·       energetickou náročnost;

·       pomalejší provoz;

·       náročné nasazení;

·       obtížnější kontrolu;

·       větší dopad chyb;

·       složitější ochranu dat.

Vedle velmi velkých modelů proto vznikají také menší a specializované systémy.


2.75 Učení z instrukcí

Základní jazykový model pouze předpovídá pokračování textu. Nemusí automaticky přesně plnit uživatelské pokyny.

Proto se začaly používat metody přizpůsobení modelů na instrukce.

Model dostává příklady:

·       otázka a správná odpověď;

·       příkaz a vhodně provedený úkol;

·       nevhodná a opravená reakce;

·       různé formáty odpovědí.

Tím se učí reagovat způsobem, který je pro uživatele užitečnější.


2.76 Učení z lidské zpětné vazby

Jednou z metod přizpůsobení jazykových modelů je učení z lidské zpětné vazby.

Lidé porovnávají různé odpovědi modelu a hodnotí, která je lepší.

Z těchto hodnocení se vytvoří model odměny.

Jazykový model je následně optimalizován tak, aby vytvářel odpovědi, které získávají vyšší hodnocení.

Tento proces může pomoci zlepšit:

·       užitečnost;

·       srozumitelnost;

·       dodržování instrukcí;

·       bezpečnost;

·       vhodný tón.

Lidské hodnocení však může obsahovat vlastní zkreslení a nemůže pokrýt všechny možné situace.


2.77 Chatovací jazykové modely

Kombinace transformerů, rozsáhlého předtrénování a přizpůsobení na instrukce umožnila vznik konverzačních systémů.

Ty mohou:

·       reagovat na navazující otázky;

·       upravovat předchozí odpověď;

·       pracovat s kontextem rozhovoru;

·       vysvětlovat různé úrovně obtížnosti;

·       vytvářet strukturovaný text;

·       pomáhat s analýzou;

·       generovat kód;

·       pracovat s dokumenty.

Konverzační forma výrazně snížila bariéru vstupu. Uživatel nemusel znát programování ani zvláštní příkazy. Stačilo psát běžným jazykem.


2.78 Rozšíření generativní AI

Generativní AI se nerozvíjela pouze v oblasti textu.

Vznikaly modely schopné generovat:

·       obrázky;

·       hlas;

·       hudbu;

·       video;

·       trojrozměrné objekty;

·       programový kód;

·       animace;

·       návrhy molekul.

Důležitými přístupy byly například:

·       generativní adversariální sítě;

·       variační autoenkodéry;

·       autoregresivní modely;

·       difuzní modely;

·       transformery.

Každý přístup měl jiné vlastnosti a oblasti použití.


2.79 Generativní adversariální sítě

Generativní adversariální síť se skládá ze dvou částí:

·       generátoru;

·       diskriminátoru.

Generátor vytváří nový obsah.

Diskriminátor se snaží rozpoznat, zda je obsah skutečný, nebo vygenerovaný.

Oba modely se učí proti sobě.

Generátor se postupně zlepšuje v klamání diskriminátoru a diskriminátor se zlepšuje v rozpoznávání falešných vzorků.

GAN modely byly využívány například pro:

·       tvorbu realistických obličejů;

·       změnu stylu obrazu;

·       zvýšení rozlišení;

·       generování návrhů;

·       syntézu obrazových dat.

Jejich trénování však mohlo být nestabilní.


2.80 Difuzní modely

Difuzní modely se staly významnou technologií pro generování obrazů.

Zjednodušeně se učí obrátit proces postupného přidávání šumu.

Při tréninku:

1.       k obrázku se postupně přidává šum;

2.       model se učí odhadnout, jak šum odstranit;

3.       opakováním se naučí rekonstruovat obrazovou strukturu.

Při generování:

1.       proces začíná náhodným šumem;

2.       model jej postupně odšumuje;

3.       výsledkem je nový obrázek.

Model lze řídit textovým popisem.

Difuzní modely umožnily vznik široce používaných nástrojů pro generování obrazů.


2.81 Multimodální modely

První rozsáhlé modely byly často zaměřeny pouze na jeden typ dat.

Textový model pracoval s textem, obrazový model s obrázky a zvukový model se zvukem.

Multimodální modely kombinují více druhů vstupu nebo výstupu.

Mohou například:

·       popsat fotografii;

·       odpovědět na otázku o grafu;

·       přečíst text v obrázku;

·       analyzovat dokument;

·       pracovat s hlasem;

·       spojit textové a obrazové instrukce;

·       generovat obraz podle textu.

Multimodalita přibližuje interakci s AI běžnému lidskému způsobu práce, který také kombinuje zrak, sluch, jazyk a další smysly.


2.82 ChatGPT a masové rozšíření generativní AI

Veřejné zpřístupnění ChatGPT na konci roku 2022 výrazně urychlilo zájem o generativní AI.

Důležité nebylo pouze to, že jazykové modely již existovaly. Zásadní byla snadná dostupnost v podobě jednoduchého konverzačního rozhraní.

Uživatelé mohli bez programování:

·       klást otázky;

·       vytvářet text;

·       shrnovat dokumenty;

·       překládat;

·       psát kód;

·       generovat nápady;

·       upravovat styl;

·       připravovat pracovní materiály.

Generativní AI se během krátké doby dostala do škol, firem, médií i domácností.

Současně se naplno projevila její omezení:

·       halucinace;

·       nejasný původ dat;

·       problémy s autorskými právy;

·       ochrana soukromí;

·       riziko podvodů;

·       automatizace dezinformací;

·       závislost uživatelů;

·       obtížné ověřování výstupů.


2.83 AI jako běžná infrastruktura

Mnoho technologií přestane být po rozšíření vnímáno jako „umělá inteligence“.

Automatická oprava textu, doporučování hudby nebo rozpoznávání řeči mohou uživatelům připadat jako běžná funkce.

Tomuto jevu se někdy říká efekt AI: jakmile je určitý problém uspokojivě vyřešen, lidé jej přestanou považovat za skutečnou inteligenci.

AI se tak postupně stává součástí běžné digitální infrastruktury.

Je zabudována v:

·       vyhledávačích;

·       kancelářských programech;

·       mobilních telefonech;

·       automobilech;

·       průmyslových systémech;

·       zdravotnickém softwaru;

·       bankovních službách;

·       internetových obchodech.


2.84 Vývoj od pravidel k datům

Historii AI lze zjednodušeně popsat jako posun mezi několika přístupy.

Ručně vytvořená pravidla

Člověk přesně popíše, jak má systém postupovat.

Symbolické reprezentace

Systém pracuje s pojmy, vztahy a logickým odvozováním.

Statistické učení

Model odhaduje pravděpodobnosti a učí se z dat.

Hluboké učení

Neuronové sítě se učí složité vnitřní reprezentace.

Základní modely

Velký model je předtrénován na širokých datech a používán pro mnoho úloh.

Jednotlivé přístupy se vzájemně nevylučují. Moderní systémy mohou kombinovat:

·       neuronové modely;

·       databáze;

·       vyhledávání;

·       logická pravidla;

·       externí nástroje;

·       lidskou kontrolu.


2.85 Vývoj od specializovaných systémů k základním modelům

Tradiční model byl obvykle trénován pro jedinou úlohu.

Například:

·       rozpoznat spam;

·       určit druh rostliny;

·       předpovědět cenu;

·       přeložit větu.

Základní model je trénován na širokém množství dat a následně může být přizpůsoben mnoha účelům.

Jeden model může například:

·       shrnovat;

·       překládat;

·       klasifikovat;

·       odpovídat;

·       generovat;

·       vysvětlovat;

·       pracovat s kódem.

Tento posun změnil ekonomiku vývoje AI. Namísto budování každého systému od začátku mohou organizace využít již předtrénovaný model.

Zároveň vzniká závislost na několika velkých poskytovatelích a jejich infrastruktuře.


2.86 Historie AI jako střídání očekávání a reality

Vývoj umělé inteligence opakovaně probíhal podle podobného vzorce:

1.       objeví se nový technický průlom;

2.       výsledky v omezených testech vypadají velmi slibně;

3.       veřejnost a investoři očekávají rychlou revoluci;

4.       technologie se nasadí na složitější problémy;

5.       projeví se omezení;

6.       část projektů selže;

7.       zájem poklesne;

8.       výzkum pokračuje a nachází realističtější použití.

Tento cyklus je důležitý i dnes.

Generativní AI je skutečně významná technologie, ale není řešením každého problému.

Historie ukazuje, že dlouhodobě uspějí především ty aplikace, které:

·       řeší konkrétní potřebu;

·       mají kvalitní data;

·       jsou ekonomicky smysluplné;

·       počítají s chybami;

·       zahrnují lidskou kontrolu;

·       respektují právní a etické požadavky.


2.87 Význam neúspěchů

Historie AI není tvořena pouze úspěchy.

Neúspěšné projekty pomohly odhalit důležité problémy:

·       samotný výpočetní výkon nestačí;

·       pravidla nelze snadno sepsat pro celý svět;

·       jazyk je závislý na kontextu;

·       model může dobře fungovat v laboratoři a špatně v praxi;

·       data mohou být zkreslená;

·       přesnost není jediným kritériem;

·       uživatelé potřebují vysvětlení;

·       nasazení vyžaduje organizační změny;

·       AI musí být průběžně kontrolována.

Mnoho dnešních bezpečnostních a metodických postupů vzniklo právě díky zkušenostem s dřívějšími selháními.


2.88 Historický vývoj a dnešní mýty

Některé dnešní představy mají v historii opakující se obdobu.

„Obecná AI vznikne během několika let“

Podobné předpovědi se objevovaly již v 50. a 60. letech.

„Stačí přidat více pravidel“

Expertní systémy ukázaly, že množství pravidel může být obtížně spravovatelné.

„Stačí přidat více dat“

Více dat může pomoci, ale nezaručuje spravedlnost, pravdivost ani bezpečnost.

„Počítač porazil člověka, proto obecně myslí lépe“

Deep Blue i AlphaGo byly mimořádné ve své oblasti, ale nešlo o obecnou inteligenci.

„Plynulá konverzace dokazuje porozumění“

Již ELIZA ukázala, že člověk může připisovat porozumění i jednoduchému systému.

Historie proto pomáhá posuzovat dnešní tvrzení s větší opatrností.


2.89 Přehled hlavních období

Období před počítači

Vznikaly mechanické automaty, počítací stroje, matematická logika a první myšlenky programovatelných zařízení.

40. a 50. léta 20. století

Vznikly elektronické počítače, matematické neurony, teorie výpočtu a první programy napodobující inteligentní činnost.

50. a 60. léta

Převládal symbolický přístup, logické dokazování, řešení problémů a rané neuronové modely.

70. léta

Projevila se omezení raných systémů a nastala první AI zima.

80. léta

Rozvíjely se expertní systémy a znovu se objevily neuronové sítě.

Konec 80. a začátek 90. let

Nastala druhá AI zima a pokles komerčního zájmu.

90. léta a začátek 21. století

Prosazovalo se statistické strojové učení, pravděpodobnostní metody a internetová data.

Po roce 2012

Hluboké učení přineslo zásadní pokrok v obrazu, řeči a jazyce.

Po roce 2017

Transformery umožnily rozvoj rozsáhlých jazykových a multimodálních modelů.

Po roce 2022

Generativní AI se rozšířila mezi širokou veřejnost a začala být začleňována do běžných pracovních nástrojů.


2.90 Časová osa hlavních milníků

Rok

Událost

1642

Pascal vytváří mechanickou kalkulačku

1670s

Leibniz rozvíjí mechanický výpočetní stroj

1800s

Babbage navrhuje diferenční a analytický stroj

1840s

Ada Lovelace popisuje algoritmus pro analytický stroj

1854

Boole publikuje základy Booleovy algebry

1936

Turing popisuje teoretický výpočetní stroj

1943

McCulloch a Pitts představují matematický neuron

1949

Hebb popisuje princip učení neuronových spojení

1950

Turing publikuje návrh imitační hry

1952

Arthur Samuel rozvíjí program hrající dámu

1956

Dartmouthský projekt formálně zakládá obor AI

1956

Vzniká Logic Theorist

1958

Rosenblatt představuje perceptron

1958

McCarthy vytváří jazyk Lisp

1960s

Rozvoj symbolické AI a řešení problémů

1966

Vzniká ELIZA

1960s–70s

Vývoj robota Shakey

1970

Rozvoj systému SHRDLU

1970s

První AI zima

1970s

Rozvoj expertních systémů

1970s

Vznik systémů DENDRAL a MYCIN

1980s

Komerční rozmach expertních systémů

1980s

Návrat vícevrstvých neuronových sítí

Konec 1980s

Začátek druhé AI zimy

1990s

Rozmach statistického strojového učení

1997

Deep Blue poráží Garriho Kasparova

2000s

Prudce roste množství internetových dat

2009

Rozvoj rozsáhlého obrazového souboru ImageNet

2012

AlexNet přináší průlom hlubokého učení

2014

Výrazný rozvoj generativních adversariálních sítí

2014–2016

Rozmach neuronového strojového překladu

2016

AlphaGo poráží Lee Sedola

2017

Je představena architektura transformer

2018

BERT zlepšuje porozumění textu

2020s

Rychle se rozvíjejí velké jazykové modely

2022

Generativní chatboty se masově rozšiřují

2020s

Rozvoj multimodálních, obrazových a video modelů


2.91 Porovnání hlavních historických přístupů

Přístup

Základní princip

Výhody

Omezení

Symbolická AI

Pravidla, logika a symboly

Vysvětlitelnost, přesná pravidla

Křehkost, obtížná práce s nejistotou

Expertní systémy

Znalosti odborníků v pravidlech

Dobré výsledky v úzké oblasti

Dražší údržba, malá schopnost učení

Statistické učení

Pravděpodobnost a učení z dat

Práce s nejistotou, praktické předpovědi

Potřeba vhodných dat

Neuronové sítě

Učení vah v propojené síti

Automatické učení složitých vzorů

Obtížná vysvětlitelnost

Hluboké učení

Vícevrstvé neuronové sítě

Výborné výsledky v obrazu, řeči a textu

Vysoké nároky na data a výkon

Základní modely

Rozsáhlé předtrénování pro mnoho úloh

Široké využití, přenos schopností

Náklady, halucinace, kontrola a bezpečnost

Hybridní systémy

Kombinace modelů, pravidel a nástrojů

Vyšší spolehlivost a flexibilita

Složitější návrh a správa


2.92 Případová studie: od šachů k AlphaGo

Vývoj herních systémů dobře ukazuje změnu metod AI.

Rané šachové programy

Používaly jednoduchá pravidla a mělké prohledávání.

Deep Blue

Spoléhal na obrovský výpočetní výkon, specializovaný hardware, hledání tahů a odborně vytvořené hodnocení pozic.

AlphaGo

Kombinoval hluboké učení, zkušenost z lidských partií, hraní proti sobě a prohledávání.

AlphaGo Zero

Učil se pouze z pravidel a vlastních her.

Tento vývoj ukazuje posun:

·       od ručně vytvořených pravidel;

·       přes vyhledávání;

·       k učení z dat;

·       až k samostatnému zlepšování v simulovaném prostředí.

Nelze jej však jednoduše přenést na každý problém. Hry mají jasná pravidla a jednoznačný výsledek, zatímco skutečný svět je mnohem méně předvídatelný.


2.93 Případová studie: od ELIZA k moderním chatbotům

ELIZA

Používala klíčová slova a předem vytvořené vzory.

Pravidlové chatboty

Pracovaly s rozhodovacími stromy a připravenými odpověďmi.

Statistické jazykové modely

Odhadovaly pravděpodobnost slovních posloupností.

Neuronové modely

Učily se reprezentace vět a generovaly plynulejší text.

Transformery

Dokázaly lépe pracovat s kontextem a velkými datovými soubory.

Moderní konverzační modely

Jsou předtrénovány na rozsáhlém textu, přizpůsobeny instrukcím a někdy propojeny s vyhledáváním nebo externími nástroji.

Základní psychologický problém však zůstává podobný: plynulá konverzace může vést uživatele k přehnanému dojmu, že systém chápe, cítí nebo ví více, než je skutečně doloženo.


2.94 Případová studie: od ručních překladů k neuronovým modelům

Pravidlový překlad

Lingvisté a programátoři vytvářeli slovníky a gramatická pravidla.

Statistický překlad

Systém se učil z velkých souborů přeložených vět.

Neuronový překlad

Model zpracovával větu jako celek a vytvářel plynulejší překlad.

Transformerový překlad

Mechanismus pozornosti zlepšil práci s kontextem a delšími větami.

Multimodální překlad

Moderní systémy mohou kombinovat text, řeč a obraz.

Vývoj překladu ukazuje, že kvalitní výsledek vznikl kombinací:

·       dat;

·       výpočetního výkonu;

·       algoritmů;

·       jazykových znalostí;

·       lidského hodnocení.


2.95 Co historie AI učí dnešní uživatele

Z historie lze odvodit několik praktických zásad.

Nepřeceňovat ukázku

Úspěšná demonstrace v omezeném prostředí nemusí znamenat spolehlivost v běžném provozu.

Rozlišovat úzkou a obecnou schopnost

Výjimečný výkon v jedné úloze neznamená univerzální inteligenci.

Kontrolovat marketingová tvrzení

Firmy i média mohou přehánět schopnosti nové technologie.

Hodnotit celý systém

Nestačí posoudit pouze model. Důležitá jsou také data, lidé, procesy, zabezpečení a odpovědnost.

Počítat s údržbou

AI není jednorázově dokončený výrobek. Modely i data je nutné aktualizovat a kontrolovat.

Zachovat lidský úsudek

Historie opakovaně ukázala, že automatizace může selhat v nečekaných situacích.


2.96 Shrnutí kapitoly

Myšlenka umělých bytostí je stará tisíce let, ale skutečné technické základy umělé inteligence vznikly díky rozvoji matematiky, logiky a výpočetní techniky.

Mechanické kalkulátory ukázaly, že část lidského výpočtu lze automatizovat. Charles Babbage navrhl programovatelný analytický stroj a Ada Lovelace rozpoznala, že počítače mohou pracovat i s jinými symboly než čísly.

George Boole vytvořil matematickou logiku, Alan Turing popsal univerzální model výpočtu a formuloval otázku, zda mohou stroje napodobit lidskou konverzaci.

V 50. letech vznikly první programy řešící logické úlohy a roku 1956 byl na Dartmouth College formálně založen obor umělé inteligence.

Rané systémy dosahovaly působivých výsledků v omezených úlohách, ale nedokázaly pracovat se složitostí skutečného světa. Přehnaná očekávání vedla k první AI zimě.

V 70. a 80. letech se rozvíjely expertní systémy. Ty mohly být úspěšné v úzké odborné oblasti, ale jejich pravidla byla náročná na tvorbu a údržbu. Po dalším období zklamání přišla druhá AI zima.

Od 90. let se prosazovalo statistické strojové učení. Rozvoj internetu přinesl velké množství dat a růst výpočetního výkonu umožnil trénovat složitější modely.

Rok 2012 znamenal průlom hlubokého učení v počítačovém vidění. Následovalo rychlé zlepšení rozpoznávání řeči, překladu a dalších oblastí.

Architektura transformer představená v roce 2017 umožnila efektivně trénovat velké jazykové modely. Ty se staly základem současné generativní AI.

Historie AI je příběhem střídání průlomů, přehnaných očekávání, zklamání a postupného praktického pokroku. Jejím nejdůležitějším poučením je, že technický úspěch v testu ještě nezaručuje bezpečné a spolehlivé fungování v reálném světě.


2.97 Slovníček pojmů

AI zima – období poklesu zájmu, financování a investic do umělé inteligence.

AlexNet – hluboká konvoluční neuronová síť, která v roce 2012 výrazně zlepšila výsledky v rozpoznávání obrazu.

Algoritmus zpětného šíření chyby – metoda používaná k úpravě vah ve vícevrstvých neuronových sítích.

AlphaGo – systém využívající hluboké učení a vyhledávání, který porazil špičkového hráče hry Go.

Analytický stroj – návrh programovatelného mechanického počítače Charlese Babbage.

Bayesovská síť – model reprezentující pravděpodobnostní vztahy mezi proměnnými.

Booleova algebra – matematický systém logických operací s pravdivostními hodnotami.

Dartmouthská konference – výzkumné setkání z roku 1956 považované za formální počátek oboru AI.

Deep Blue – šachový počítač IBM, který v roce 1997 porazil mistra světa Garriho Kasparova.

DENDRAL – raný expertní systém určený k analýze chemických struktur.

Difuzní model – generativní model, který vytváří obsah postupným odstraňováním šumu.

ELIZA – raný konverzační program založený na jednoduchých pravidlech a klíčových slovech.

Efekt ELIZA – tendence přisuzovat počítačovému systému hlubší porozumění, než jaké skutečně má.

Expertní systém – program využívající znalostní bázi a pravidla k napodobení rozhodování odborníka.

GAN – generativní adversariální síť tvořená generátorem a diskriminátorem.

General Problem Solver – raný program určený k řešení různých problémů pomocí obecných strategií.

Hebbovo pravidlo – princip, podle kterého se spojení posiluje při společné aktivaci.

Heuristika – praktické pravidlo nebo odhad pomáhající rychleji najít řešení.

ImageNet – rozsáhlý obrazový datový soubor využívaný pro výzkum počítačového vidění.

Lisp – programovací jazyk historicky významný pro symbolickou AI.

Logic Theorist – jeden z prvních programů AI, který dokazoval matematické věty.

Mechanismus pozornosti – matematický mechanismus umožňující modelu přikládat různou váhu různým částem vstupu.

Mooreův zákon – historické pozorování dlouhodobého růstu počtu tranzistorů a výpočetního výkonu.

MYCIN – raný medicínský expertní systém pro podporu diagnostiky infekcí.

Neuronový strojový překlad – překlad založený na neuronových sítích.

Perceptron – jednoduchý učící se model umělého neuronu.

Posilované učení – metoda, při níž se agent učí z odměn a následků svých akcí.

Předtrénování – obecný trénink modelu na velkém množství dat před jeho přizpůsobením konkrétním úlohám.

Rekurentní neuronová síť – síť určená pro zpracování posloupností a časově uspořádaných dat.

Reprezentační učení – schopnost modelu automaticky se učit vhodné vnitřní reprezentace dat.

Sebepozornost – mechanismus transformeru pro vyhodnocení vztahů mezi částmi jednoho vstupu.

Shakey – jeden z prvních mobilních robotů kombinujících vnímání, plánování a pohyb.

SHRDLU – raný systém pro komunikaci a plánování v omezeném virtuálním světě.

Statistické strojové učení – přístup založený na datech, pravděpodobnosti a odhadu modelů.

Symbolická AI – přístup založený na symbolech, logice a ručně vytvořených pravidlech.

Transformer – architektura neuronové sítě založená na mechanismu pozornosti.

Turingův stroj – teoretický model výpočtu popsaný Alanem Turingem.

Turingův test – test založený na schopnosti stroje napodobit člověka v textové konverzaci.

Učení z lidské zpětné vazby – přizpůsobování modelu podle lidského hodnocení jeho odpovědí.

Základní model – rozsáhlý předtrénovaný model použitelný pro široké spektrum úloh.

Znalostní báze – strukturovaný soubor faktů a pravidel používaný expertním systémem.


2.98 Kontrolní otázky

1.       Proč jsou starověké mýty o umělých bytostech relevantní pro historii AI?

2.       Jaký význam měly mechanické automaty?

3.       Čím přispěli Pascal a Leibniz k vývoji výpočetní techniky?

4.       Jaké části moderního počítače připomínal Babbageův analytický stroj?

5.       Proč je Ada Lovelace považována za průkopnici programování?

6.       Co je Booleova algebra?

7.       Jaký význam měl Turingův stroj?

8.       Co ukazuje problém zastavení?

9.       Jak druhá světová válka urychlila vývoj počítačů?

10.  Co je von Neumannova architektura?

11.  Jak fungoval matematický neuron McCullocha a Pittse?

12.  Co říká Hebbovo pravidlo?

13.  Jak funguje Turingův test?

14.  Proč Turingův test není úplným důkazem inteligence?

15.  Jaký význam měl program Arthura Samuela?

16.  Co dokázal Logic Theorist?

17.  Proč je rok 1956 považován za počátek oboru AI?

18.  Jaké byly hlavní cíle symbolické AI?

19.  Co je stavový prostor?

20.  Co je heuristika?

21.  Jak funguje perceptron?

22.  Proč rané systémy selhávaly v reálném světě?

23.  Jak fungovala ELIZA?

24.  Co označuje efekt ELIZA?

25.  Proč byl SHRDLU úspěšný pouze v omezeném prostředí?

26.  Co dokázal robot Shakey?

27.  Jaké byly příčiny první AI zimy?

28.  Co je expertní systém?

29.  Jaký význam měly systémy DENDRAL a MYCIN?

30.  Co je úzké hrdlo získávání znalostí?

31.  Jaká byla hlavní omezení expertních systémů?

32.  Proč nastala druhá AI zima?

33.  Jaký význam má algoritmus zpětného šíření chyby?

34.  Proč se v AI používají pravděpodobnostní metody?

35.  Jak se statistické strojové učení liší od symbolické AI?

36.  Jaký význam mělo vítězství Deep Blue?

37.  Proč nebyl Deep Blue obecnou inteligencí?

38.  Jak internet ovlivnil vývoj AI?

39.  Proč jsou GPU vhodné pro hluboké učení?

40.  Jaký význam měl datový soubor ImageNet?

41.  Proč byl AlexNet průlomový?

42.  Co je reprezentační učení?

43.  Jak funguje mechanismus pozornosti?

44.  Jaký význam mělo vítězství AlphaGo?

45.  Co je posilované učení?

46.  V čem se AlphaGo Zero lišil od původního AlphaGo?

47.  Proč je transformer tak významný?

48.  Co znamená předtrénování?

49.  Co jsou vektorové reprezentace slov?

50.  Co znamená zkratka GPT?

51.  Co je učení z instrukcí?

52.  Jak funguje učení z lidské zpětné vazby?

53.  Co jsou multimodální modely?

54.  Proč se generativní AI po roce 2022 tak rychle rozšířila?

55.  Jaké hlavní poučení přinášejí období AI zimy?

56.  Proč nelze úspěch v jedné úloze považovat za důkaz obecné inteligence?

57.  Jak se historicky měnil vztah mezi pravidly a daty?

58.  Co je základní model?

59.  Jaké nevýhody přináší škálování modelů?

60.  Proč je při hodnocení dnešní AI užitečné znát její historii?


2.99 Praktická cvičení

Cvičení 1: Historická časová osa

Vytvořte vlastní časovou osu obsahující alespoň patnáct milníků.

U každého uveďte:

·       rok nebo období;

·       jméno osobnosti nebo systému;

·       stručný popis;

·       význam pro další vývoj;

·       zda šlo převážně o symbolický, statistický nebo neuronový přístup.


Cvičení 2: Turingův test

Představte si, že máte připravit deset otázek pro Turingův test.

Otázky by měly prověřovat:

·       práci s kontextem;

·       humor;

·       zdravý rozum;

·       nejednoznačnost;

·       osobní zkušenost;

·       logické uvažování;

·       porozumění emocím;

·       schopnost přiznat nejistotu.

Poté vysvětlete, proč ani úspěšné odpovědi nemusí dokazovat skutečné vědomí.


Cvičení 3: Symbolická AI a strojové učení

Pro následující problémy rozhodněte, zda je vhodnější symbolický přístup, strojové učení, nebo jejich kombinace:

1.       výpočet nároku na zákonnou dávku podle přesných pravidel;

2.       rozpoznání vady pečiva z fotografie;

3.       kontrola, zda faktura obsahuje povinné údaje;

4.       předpověď množství prodaného pečiva;

5.       plánování trasy ve skladu;

6.       vyhodnocení žádosti podle zákonných i statistických kritérií;

7.       automatický překlad;

8.       konfigurace počítače podle kompatibility součástí;

9.       rozpoznání podvodné transakce;

10.  diagnostika závady podle pravidel a údajů ze senzorů.


Cvičení 4: Analýza AI zimy

Vyberte jednu z historických AI zim a zpracujte:

·       jaká očekávání jí předcházela;

·       které technologie byly přeceňovány;

·       jaká omezení se projevila;

·       proč kleslo financování;

·       co z výzkumu přesto přežilo;

·       jaké poučení lze použít dnes.


Cvičení 5: ELIZA a moderní chatbot

Porovnejte program ELIZA s moderním jazykovým modelem.

Zaměřte se na:

·       způsob vytváření odpovědí;

·       práci s kontextem;

·       rozsah znalostí;

·       schopnost generovat nový text;

·       míru porozumění;

·       riziko, že uživatel systému připíše lidské vlastnosti.


Cvičení 6: Deep Blue a AlphaGo

Vytvořte tabulku porovnávající:

·       typ hry;

·       počet možných tahů;

·       použitý výpočetní přístup;

·       míru ručně vytvořených znalostí;

·       využití strojového učení;

·       možnost samostatného tréninku;

·       přenos schopností do jiných oblastí.


Cvičení 7: Od pravidel k datům

Vyberte jeden praktický problém, například:

·       třídění e-mailů;

·       odhad poptávky;

·       kontrolu kvality;

·       překlad;

·       doporučování filmů.

Popište, jak by se řešil:

1.       čistě pravidlovým systémem;

2.       statistickým strojovým učením;

3.       hlubokou neuronovou sítí;

4.       moderním základním modelem;

5.       hybridním systémem.


Cvičení 8: Přehnané předpovědi

Najděte příklad historické předpovědi o budoucnosti AI, která se nenaplnila v očekávaném termínu.

Zhodnoťte:

·       kdo ji vyslovil;

·       z jakých tehdejších úspěchů vycházela;

·       které překážky byly podceněny;

·       zda se část předpovědi později přesto naplnila;

·       jak podobné chyby rozpoznat v dnešních tvrzeních.


Cvičení 9: Vývoj strojového překladu

Popište rozdíl mezi:

·       pravidlovým překladem;

·       statistickým překladem;

·       neuronovým překladem;

·       transformerovým překladem;

·       multimodálním překladem.

U každého přístupu uveďte jednu výhodu a jedno omezení.


Cvičení 10: Historický plakát

Navrhněte vzdělávací plakát s názvem „Od Babbage k generativní AI“.

Plakát by měl obsahovat:

·       hlavní osobnosti;

·       klíčové stroje;

·       obě AI zimy;

·       expertní systémy;

·       Deep Blue;

·       AlexNet;

·       AlphaGo;

·       transformer;

·       moderní generativní modely.


2.100 Řešení vybraných cvičení

Řešení cvičení 3

1.       Výpočet nároku podle zákona – převážně symbolický systém, protože pravidla musí přesně odpovídat legislativě.

2.       Rozpoznání vady pečiva – strojové učení nebo hluboké učení, zejména počítačové vidění.

3.       Kontrola povinných údajů na faktuře – kombinace pravidel, rozpoznání textu a jazykového zpracování.

4.       Předpověď prodeje – statistické strojové učení.

5.       Plánování trasy ve skladu – algoritmické vyhledávání, optimalizace a případně strojové učení.

6.       Vyhodnocení žádosti – kombinace zákonných pravidel a statistického modelu, s lidskou kontrolou.

7.       Automatický překlad – neuronový nebo transformerový model.

8.       Konfigurace počítače – symbolická pravidla kompatibility doplněná doporučovacím systémem.

9.       Podvodná transakce – strojové učení a pravidla pro známé podvody.

10.  Diagnostika závady – hybridní systém spojující pravidla odborníků a model pracující se senzorovými daty.


Řešení cvičení 5

Vlastnost

ELIZA

Moderní jazykový model

Základ odpovědi

Klíčová slova a připravené vzory

Pravděpodobnostní generování textu

Kontext

Velmi omezený

Výrazně širší, ale stále omezený

Znalosti

Minimální

Rozsáhlé vzory získané z tréninkových dat

Nové formulace

Omezené

Velmi rozmanité

Skutečné ověřování faktů

Ne

Ne automaticky, pokud není připojeno vyhledávání

Riziko antropomorfizace

Vysoké

Ještě vyšší kvůli plynulosti

Porozumění světu

Velmi omezené

Pokročilé statistické reprezentace, nikoli prokázané lidské porozumění

Schopnost plnit instrukce

Velmi malá

Vysoká u mnoha jazykových úloh


Řešení cvičení 9

Přístup

Princip

Výhoda

Omezení

Pravidlový překlad

Slovníky a gramatická pravidla

Dobrá kontrola jednotlivých pravidel

Nákladná tvorba a špatná práce s výjimkami

Statistický překlad

Pravděpodobnosti z paralelních textů

Učí se z reálných překladů

Často nepřirozené věty

Neuronový překlad

Neuronová reprezentace celé věty

Plynulejší výstup

Problémy s dlouhým kontextem

Transformerový překlad

Pozornost mezi částmi textu

Lepší kontext a paralelní trénink

Vysoké nároky na data a výkon

Multimodální překlad

Kombinace textu, zvuku a obrazu

Využití širšího kontextu

Složitější model a vyšší výpočetní náklady


2.101 Úkol k zamyšlení

Představte si, že žijete v roce 1965.

Počítače již dokážou:

·       hrát některé hry;

·       dokazovat matematické věty;

·       řešit jednoduché logické problémy;

·       reagovat v textové konverzaci;

·       plánovat pohyb v omezeném prostředí.

Měli byste dostatek důvodů věřit, že obecná umělá inteligence vznikne během dvaceti let?

Zvažte:

·       jaké úspěchy by vás přesvědčovaly;

·       která omezení by tehdy nebyla zřejmá;

·       jak by malý laboratorní úspěch mohl zkreslit očekávání;

·       zda dnes neděláme podobnou chybu u generativní AI;

·       jaké důkazy by byly potřebné pro tvrzení, že systém dosáhl obecné inteligence.

Historie AI ukazuje, že technologický pokrok může být současně velmi rychlý i pomalejší, než se očekává. Některé úlohy považované za obtížné byly vyřešeny překvapivě rychle, zatímco zdánlivě samozřejmé lidské schopnosti zůstávají pro stroje velmi náročné.

Žádné komentáře:

Okomentovat