Kapitola 2:
Historie umělé inteligence
Cíle kapitoly
Po prostudování této kapitoly budete umět:
·
vysvětlit, jak vznikaly první
myšlenky o myslících strojích;
·
popsat význam nejdůležitějších
osobností v historii AI;
·
vysvětlit roli matematické
logiky a prvních počítačů;
·
objasnit význam Turingova
testu;
·
popsat vznik oboru umělé
inteligence v roce 1956;
·
vysvětlit příčiny období
označovaných jako „AI zima“;
·
popsat vývoj expertních
systémů, strojového učení a neuronových sítí;
·
vysvětlit význam internetu,
velkých dat a grafických procesorů;
·
popsat cestu od prvních
jazykových programů k velkým jazykovým modelům;
·
zařadit současnou generativní
AI do širšího historického vývoje.
2.1 Úvod
Umělá inteligence se může na první
pohled jevit jako velmi nová technologie. Ve skutečnosti však navazuje na
dlouhou historii lidských pokusů vytvořit stroje, které by dokázaly napodobovat
živé bytosti, provádět výpočty, používat jazyk nebo samostatně řešit problémy.
Dnešní systémy umělé inteligence
nevznikly díky jedinému objevu. Jsou výsledkem postupného spojení mnoha
oblastí:
·
matematiky;
·
logiky;
·
statistiky;
·
elektrotechniky;
·
informatiky;
·
psychologie;
·
neurověd;
·
lingvistiky;
·
teorie řízení;
·
vývoje výpočetního hardwaru.
Historie AI není přímou cestou od
jednoduchých programů k dnešním modelům. Vývoj se opakovaně střídal mezi
obdobími velkého nadšení a obdobími zklamání. V některých desetiletích
výzkumníci věřili, že lidská inteligence bude napodobena během několika let.
Když se tyto předpovědi nenaplnily, financování i zájem veřejnosti klesly.
Porozumění historii je důležité také
proto, že pomáhá rozpoznat opakující se vzorec. Nové technologie často
vyvolávají přehnaná očekávání. Po počátečním nadšení se projeví jejich omezení
a teprve následně se najde realistické a praktické využití.
2.2 Starověké
představy o umělých bytostech
Touha
vytvořit umělou bytost se objevovala dávno před vznikem počítačů.
Ve
starověkých mýtech se setkáváme s bytostmi vytvořenými člověkem nebo bohy. Tyto
příběhy nepopisovaly skutečnou technologii, ale ukazovaly dlouhodobou lidskou
fascinaci představou neživého objektu, který se pohybuje, jedná nebo plní
příkazy.
Známými
příklady jsou:
·
mechanické služebnice boha
Héfaista v řecké mytologii;
·
bronzový obr Talós, který
chránil Krétu;
·
Pygmalionova socha, která
ožila;
·
příběhy o golemovi ve
středoevropské židovské tradici;
·
legendy o alchymistických
homunkulech.
Tyto
příběhy často obsahují témata, která se objevují i v dnešních diskusích o AI:
·
poslušnost vytvořené bytosti;
·
ztráta kontroly nad vlastním
výtvorem;
·
odpovědnost tvůrce;
·
hranice mezi živým a neživým;
·
otázka, zda lze lidské
vlastnosti napodobit.
Přestože
neměly technický základ, představovaly kulturní předchůdce dnešních úvah o
inteligentních strojích.
2.3 Mechanické automaty
Ve starověku,
středověku i novověku vznikaly různé mechanické automaty. Šlo o zařízení, která
pomocí ozubených kol, závaží, pružin, vody nebo vzduchu napodobovala pohyb lidí
a zvířat.
Automaty mohly
například:
·
pohybovat rukama;
·
hrát jednoduchou melodii;
·
psát několik předem
připravených znaků;
·
nalévat tekutinu;
·
otevírat dveře;
·
napodobovat pohyb ptáka;
·
ukazovat čas.
Tyto stroje nebyly
inteligentní. Jejich chování bylo předem určeno konstrukcí mechanismu. Přesto
byly významné, protože ukázaly, že složité chování lze rozložit na sérii
mechanických kroků.
Tato myšlenka se
později stala základem algoritmického myšlení: i komplikovaný úkol lze vykonat,
pokud jej rozdělíme na dostatečně přesně popsané dílčí kroky.
2.4 První počítací stroje
Vývoj AI by nebyl
možný bez strojů určených k výpočtům.
Jedním z prvních
známých pomůcek byl abakus. Ten sice nepočítal samostatně, ale umožňoval
člověku rychleji provádět aritmetické operace.
V 17. století
vznikaly mechanické kalkulátory.
Blaise Pascal
Francouzský matematik Blaise Pascal vytvořil mechanickou kalkulačku
schopnou sčítat a odčítat. Zařízení bylo známé jako Pascalina.
Gottfried Wilhelm Leibniz
Německý matematik a filozof Gottfried Wilhelm Leibniz navrhl stroj,
který zvládal také násobení a dělení.
Leibniz byl významný i tím, že prosazoval dvojkovou číselnou
soustavu. Právě dvojková reprezentace, založená na hodnotách nula a jedna, se
později stala základem digitálních počítačů.
Mechanické kalkulátory ukázaly, že některé mentální činnosti,
například aritmetické výpočty, mohou být provedeny strojem.
2.5
Programovatelný stroj Charlese Babbage
V
19. století navrhl britský matematik Charles Babbage několik mechanických
počítacích strojů.
Nejvýznamnější
byl návrh analytického stroje.
Měl
obsahovat prvky, které připomínají části moderního počítače:
·
výpočetní jednotku;
·
paměť;
·
vstupní zařízení;
·
výstupní zařízení;
·
programové instrukce;
·
možnost podmíněného větvení;
·
možnost opakování kroků.
Analytický
stroj měl být řízen děrnými štítky. Podobný princip se používal například u
tkalcovských stavů, kde děrné karty určovaly vzor tkaniny.
Babbageův
stroj nebyl za jeho života dokončen v plné podobě. Jeho návrh však obsahoval
základní myšlenku univerzálního programovatelného počítače.
2.6 Ada Lovelace a první
algoritmus
Na
Babbageově práci spolupracovala matematička Ada Lovelace.
Při
popisu analytického stroje vytvořila postup, kterým měl stroj vypočítávat
Bernoulliho čísla. Tento postup bývá označován za jeden z prvních publikovaných
počítačových algoritmů.
Ada
Lovelace také pochopila, že počítač nemusí pracovat pouze s čísly. Uvažovala,
že pokud lze hudbu, text nebo jiné informace převést do vhodné symbolické
podoby, mohl by s nimi stroj provádět různé operace.
Tato
myšlenka předběhla dobu. Moderní počítače skutečně zpracovávají text, obraz,
zvuk i video jako číselně reprezentovaná data.
Ada
Lovelace však zároveň upozorňovala, že stroj dělá pouze to, co mu člověk dokáže
zadat. Tato otázka se později stala součástí diskusí o tom, zda může počítač
skutečně tvořit nebo myslet.
2.7 George Boole a
matematická logika
V 19.
století vytvořil britský matematik George Boole systém matematické logiky, dnes
známý jako Booleova algebra.
Pracuje
s pravdivostními hodnotami, které lze zjednodušeně chápat jako:
·
pravda;
·
nepravda.
V
digitální technice mohou odpovídat hodnotám:
·
1;
·
Booleova
algebra umožňuje popsat logické operace:
·
AND – a současně;
·
OR – nebo;
·
NOT – negace;
·
XOR – výlučné nebo.
Například:
·
výrok A je pravdivý;
·
výrok B je pravdivý;
·
výraz A AND B je pravdivý pouze
tehdy, když jsou pravdivé oba výroky.
Logické
operace se později staly základem konstrukce digitálních obvodů a programování.
2.8 Formální logika
a pravidla uvažování
Na
přelomu 19. a 20. století se matematici snažili vytvořit přesný formální
systém, ve kterém by bylo možné matematické tvrzení dokazovat pomocí jasných
pravidel.
Cílem
bylo popsat uvažování jako práci se symboly.
Pokud
lze postup od předpokladů k závěru vyjádřit formálními pravidly, může jej
teoreticky provádět také stroj.
Tato
představa později ovlivnila tzv. symbolickou umělou inteligenci, která se
snažila reprezentovat lidské znalosti pomocí:
·
pravidel;
·
symbolů;
·
logických výrazů;
·
vztahů mezi pojmy;
·
přesně definovaných postupů.
Symbolický
přístup dominoval velké části raného výzkumu AI.
2.9 David Hilbert a
rozhodovací problém
Německý
matematik David Hilbert patřil mezi vědce, kteří se snažili vytvořit úplný a
přesný základ matematiky.
Jednou
z klíčových otázek byl tzv. rozhodovací problém. Zjednodušeně řečeno šlo o
otázku, zda existuje univerzální postup, který by dokázal určit, zda je
libovolné matematické tvrzení dokazatelné.
Tato
otázka vedla k hlubokému studiu algoritmů, výpočtů a hranic toho, co lze
mechanicky rozhodnout.
Právě
v této souvislosti vznikly teoretické základy moderní informatiky.
2.10 Alan Turing
a univerzální výpočetní stroj
Britský
matematik Alan Turing navrhl ve 30. letech 20. století abstraktní model výpočtu
známý jako Turingův stroj.
Turingův
stroj není konkrétní fyzické zařízení. Jde o teoretický model, který se skládá
z:
·
nekonečně dlouhé pásky
rozdělené na políčka;
·
symbolů zapsaných na pásce;
·
čtecí a zapisovací hlavy;
·
konečné sady pravidel;
·
vnitřních stavů stroje.
V
každém kroku stroj:
1.
přečte symbol;
2.
podle pravidla zapíše nový
symbol;
3.
posune se doleva nebo doprava;
4.
změní svůj stav;
5.
pokračuje, dokud nedosáhne
konečného stavu.
Turing
ukázal, že jednoduchý formální stroj může vykonat jakýkoli výpočet, který lze
popsat algoritmem.
Zvlášť
významná byla myšlenka univerzálního Turingova stroje. Jeden stroj může
napodobit činnost libovolného jiného výpočetního stroje, pokud dostane jeho
popis a vstupní data.
To
je základní princip univerzálního počítače: stejné fyzické zařízení může podle
načteného programu fungovat jako kalkulačka, textový editor, hudební přehrávač
nebo systém AI.
2.11 Turing a hranice výpočtu
Turingova práce
neukázala pouze to, co počítače mohou dělat. Ukázala také, že existují
problémy, které nelze obecným algoritmem vyřešit.
Známým příkladem
je problém zastavení. Ptá se, zda lze vytvořit univerzální program, který u
každého jiného programu předem rozhodne, zda se někdy zastaví, nebo poběží
navždy.
Turing dokázal,
že takový univerzální postup neexistuje.
Tento poznatek
je důležitý, protože připomíná, že ani dokonale výkonný počítač nemůže vyřešit
každý myslitelný problém.
Výpočetní výkon
sice může být obrovský, ale existují teoretické hranice výpočtu.
2.12 Druhá
světová válka a rozvoj výpočetní techniky
Druhá
světová válka urychlila vývoj elektroniky, radarů, šifrování a výpočetních
zařízení.
Alan
Turing pracoval v britském centru Bletchley Park na metodách rozluštění
německých šifer. Podílel se na vývoji postupů a zařízení používaných při
analýze komunikace šifrované strojem Enigma.
Pro
rozluštění jiných typů šifer byl v Bletchley Parku vytvořen také elektronický
počítač Colossus.
Válečný
vývoj ukázal praktickou hodnotu automatizovaných výpočtů. Po válce se výzkum
počítačů přesunul také do univerzit, laboratoří a průmyslu.
2.13 První elektronické
počítače
Ve 40. a 50.
letech 20. století vznikly první elektronické počítače.
Byly
obrovské, drahé a měly mnohem menší výkon než dnešní běžné zařízení. Přesto
umožnily provádět výpočty rychlostí, která byla pro člověka nedosažitelná.
Mezi významné
rané počítače patřily například:
·
ENIAC;
·
EDVAC;
·
EDSAC;
·
Manchester Baby;
·
UNIVAC.
Zpočátku byly
programy často zadávány pomocí kabelů, přepínačů, děrných štítků nebo děrných
pásek.
Postupně se
prosadil princip uloženého programu, kdy jsou instrukce stejně jako data
uchovávány v paměti počítače.
Tento princip
je spojen mimo jiné se jménem matematika Johna von Neumanna.
2.14 John von
Neumann a architektura počítače
Von
Neumannova architektura popisuje počítač tvořený několika hlavními částmi:
·
pamětí;
·
řídicí jednotkou;
·
aritmeticko-logickou jednotkou;
·
vstupem;
·
výstupem.
Program
i data jsou uloženy v paměti.
Procesor
postupně načítá instrukce, vyhodnocuje je a provádí.
Tato
koncepce se stala základem většiny klasických digitálních počítačů.
Vývoj
AI byl od počátku závislý na vývoji hardwaru. Čím rychlejší byly procesory a
čím větší byla paměť, tím složitější algoritmy mohli výzkumníci zkoušet.
2.15 McCulloch a
Pitts: matematický neuron
V
roce 1943 představili Warren McCulloch a Walter Pitts matematický model
neuronu.
Biologický
neuron přijímá signály od jiných buněk, zpracovává je a za určitých podmínek
vyšle vlastní signál.
Jejich
zjednodušený umělý neuron:
1.
přijímá několik vstupů;
2.
každému vstupu přiřazuje
určitou váhu;
3.
hodnoty sečte;
4.
porovná součet s prahem;
5.
vytvoří výstup.
Tento
model byl velmi jednoduchý, ale ukázal, že sítě propojených umělých neuronů
mohou provádět logické operace.
Stal
se jedním z teoretických základů neuronových sítí.
2.16 Hebbovo pravidlo učení
Psycholog Donald
Hebb v roce 1949 popsal princip, podle kterého se spojení mezi neurony
posiluje, pokud jsou opakovaně aktivní současně.
Zjednodušeně se
tento princip vyjadřuje větou:
Neurony, které
se aktivují společně, posilují své spojení.
Hebbovo pravidlo
inspirovalo metody učení v umělých neuronových sítích.
Myšlenka byla
zásadní: inteligentní chování nemusí být založeno pouze na ručně vytvořených
pravidlech. Systém se může měnit podle zkušenosti.
2.17 Alan Turing a
otázka myslících strojů
V
roce 1950 publikoval Alan Turing článek „Computing Machinery and Intelligence“.
Začínal
otázkou:
Mohou
stroje myslet?
Turing
si uvědomoval, že pojmy „stroj“ a „myšlení“ se obtížně definují. Proto navrhl
praktický test založený na pozorovatelném chování.
Místo
otázky, zda stroj skutečně myslí, se ptal, zda může v rozhovoru působit tak
přesvědčivě, že jej člověk nerozezná od jiného člověka.
2.18 Turingův test
V klasické podobě probíhá
Turingův test prostřednictvím textové komunikace.
Účastní se ho:
·
lidský hodnotitel;
·
druhý člověk;
·
počítačový systém.
Hodnotitel nevidí ostatní
účastníky. Komunikuje s nimi pouze prostřednictvím textu.
Pokud po sérii otázek
nedokáže spolehlivě určit, který účastník je stroj, lze říci, že stroj v testu
úspěšně napodobil lidskou konverzaci.
Test byl významný, protože
přesunul pozornost od vnitřní podstaty myšlení k pozorovatelnému chování.
Má však řadu omezení.
Systém může působit lidsky,
aniž by:
·
skutečně rozuměl významu;
·
měl vědomí;
·
měl vlastní cíle;
·
chápal svět;
·
byl obecně inteligentní;
·
uměl řešit praktické problémy.
Turingův test proto není
úplnou definicí inteligence, ale zůstává důležitým historickým konceptem.
2.19 První
programy napodobující inteligenci
V
50. letech začali vědci vytvářet programy, které řešily úlohy dříve považované
za projev lidské inteligence.
Patřily
mezi ně:
·
hraní her;
·
dokazování matematických vět;
·
řešení hlavolamů;
·
symbolické výpočty;
·
jednoduché plánování;
·
práce s jazykem.
Tyto
úspěchy vyvolaly velký optimismus. Někteří výzkumníci očekávali, že stroje s
obecnou inteligencí vzniknou během několika desetiletí.
Tehdejší
programy však fungovaly především v přesně vymezeném prostředí. Nedokázaly se
snadno přizpůsobit nečekaným situacím.
2.20 Arthur Samuel a
program hrající dámu
Arthur
Samuel vytvořil program, který hrál dámu a zlepšoval se pomocí zkušenosti.
Program
hodnotil různé pozice na hrací desce a vybíral tahy, které vedly k výhodnějšímu
výsledku.
Samuel
používal pojem „machine learning“ pro přístup, při kterém se počítač učí
vykonávat úlohu, aniž by byl každý krok výslovně naprogramován.
Program
hrající dámu byl významný z několika důvodů:
·
ukázal, že počítač může
využívat zkušenost;
·
spojil hledání možností s
hodnocením situace;
·
předvedl praktický význam
učení;
·
přispěl k popularizaci pojmu
strojové učení.
2.21 Logic Theorist
V roce 1956 vytvořili
Allen Newell, Herbert Simon a Cliff Shaw program Logic Theorist.
Jeho cílem bylo dokazovat
matematické věty.
Program pracoval se
symboly a hledal cestu od známých předpokladů k požadovanému závěru.
Logic Theorist dokázal
znovu odvodit řadu matematických důkazů. V některých případech našel postup
odlišný od toho, který byl uveden v původním zdroji.
Autoři jej považovali za
program napodobující lidské řešení problémů.
Logic Theorist bývá
označován za jeden z prvních skutečných programů umělé inteligence.
2.22
Dartmouthská konference a vznik názvu AI
Za
formální vznik oboru umělé inteligence se obvykle považuje letní výzkumný
projekt uspořádaný v roce 1956 na Dartmouth College ve Spojených státech.
S
návrhem akce byli spojeni zejména:
·
John McCarthy;
·
Marvin Minsky;
·
Nathaniel Rochester;
·
Claude Shannon.
V
návrhu projektu se objevil termín „artificial intelligence“, tedy umělá
inteligence.
Účastníci
vycházeli z přesvědčení, že různé aspekty učení a inteligence lze popsat
natolik přesně, aby je mohl napodobit stroj.
Mezi
zkoumaná témata patřily:
·
neuronové sítě;
·
automatické dokazování;
·
zpracování jazyka;
·
abstrakce;
·
kreativita;
·
učení;
·
řešení problémů.
Dartmouthská
konference nevytvořila hotovou inteligentní technologii. Její význam spočíval v
tom, že sjednotila různé výzkumné směry pod novým názvem a pomohla vytvořit
samostatný akademický obor.
2.23 John McCarthy
John McCarthy patří mezi
zakladatele umělé inteligence.
Kromě použití názvu
„artificial intelligence“ se podílel na rozvoji několika významných oblastí.
Vytvořil programovací jazyk
Lisp, který byl po desetiletí jedním z nejpoužívanějších jazyků pro výzkum AI.
Lisp byl vhodný pro práci
se symboly, seznamy a rekurzivními strukturami. To odpovídalo tehdejšímu
symbolickému přístupu k inteligenci.
McCarthy se zabýval také:
·
reprezentací znalostí;
·
logickým uvažováním;
·
sdílením výpočetního času;
·
obecnými principy
inteligentního chování.
Prosazoval myšlenku, že lze
vytvořit stroj schopný logicky pracovat s informacemi o světě.
2.24 Marvin Minsky
Marvin Minsky byl dalším
významným zakladatelem oboru.
Spoluzaložil laboratoř
umělé inteligence na Massachusetts Institute of Technology.
Zabýval se:
·
neuronovými sítěmi;
·
symbolickou AI;
·
reprezentací znalostí;
·
vnímáním;
·
robotikou;
·
teoriemi lidské mysli.
Minsky zdůrazňoval, že
inteligence není jediná schopnost, ale výsledek spolupráce velkého množství
jednodušších procesů.
Tuto myšlenku později
rozpracoval v koncepci „společnosti mysli“, podle níž lidská inteligence vzniká
spoluprací mnoha specializovaných mentálních mechanismů.
2.25 Symbolická umělá
inteligence
V prvních
desetiletích výzkumu převládal symbolický přístup.
Jeho
základní myšlenka byla následující:
1.
znalosti lze vyjádřit pomocí
symbolů;
2.
vztahy mezi symboly lze popsat
pravidly;
3.
inteligentní chování vzniká
manipulací se symboly podle logických postupů.
Například:
·
všichni savci jsou teplokrevní;
·
pes je savec;
·
z toho plyne, že pes je
teplokrevný.
Symbolická
AI byla vhodná pro:
·
logické úlohy;
·
plánování;
·
matematické dokazování;
·
práci s přesně definovanými
pravidly;
·
expertní systémy.
Její
nevýhodou byla obtížná práce s neurčitostí, neúplnými informacemi a složitým
reálným světem.
2.26 General Problem Solver
Newell a Simon
vytvořili program General Problem Solver.
Jeho cílem bylo
řešit různé druhy problémů pomocí obecné strategie.
Program
porovnával:
·
aktuální stav;
·
cílový stav.
Poté hledal
operace, které by rozdíl mezi nimi zmenšily.
Tento přístup se
označuje jako analýza prostředků a cílů.
Příklad:
Cíl: dostat se z
místnosti.
Aktuální stav:
dveře jsou zavřené.
Rozdíl: dveře je
třeba otevřít.
Podmínka: k
otevření je potřeba klíč.
Nový dílčí cíl:
najít klíč.
Tento typ rozkladu
problému na menší kroky se používá v informatice i dnes.
General Problem
Solver však fungoval pouze u problémů, které bylo možné vhodně symbolicky
popsat.
2.27 Vyhledávání ve
stavovém prostoru
Mnoho
raných programů AI řešilo problémy jako hledání cesty mezi možnými stavy.
Stav
může představovat například:
·
pozici figurek na šachovnici;
·
uspořádání hlavolamu;
·
polohu robota;
·
aktuální fázi plánu;
·
výsledek série rozhodnutí.
Přechod
mezi stavy vzniká provedením určité akce.
Program
hledá posloupnost akcí, která vede od počátečního stavu k cíli.
Problémem
je, že počet možností může růst mimořádně rychle. Tomu se říká kombinatorická
exploze.
Například
v šachu nelze jednoduše prozkoumat všechny možné partie až do konce.
Proto AI
používá heuristiky.
2.28 Heuristiky
Heuristika je praktické
pravidlo, které pomáhá rychleji najít dobré řešení, aniž by bylo nutné
prozkoumat všechny možnosti.
Příklad při hledání trasy:
·
upřednostňuj cestu, která se
přibližuje k cíli;
·
vyhýbej se překážkám;
·
zohledni odhad zbývající
vzdálenosti.
Heuristika nezaručuje vždy
nejlepší řešení. Může však výrazně snížit množství práce.
Lidé používají heuristiky
běžně. Při rozhodování často nevyhodnocujeme všechny teoretické možnosti, ale
spoléháme na zkušenost, zkratky a odhady.
2.29 Perceptron
V 50. letech vytvořil Frank
Rosenblatt model zvaný perceptron.
Perceptron byl jednoduchý
učící se systém inspirovaný neuronem.
Přijímal několik vstupních
hodnot, násobil je vahami, sečetl je a podle výsledku přiřadil vstup do jedné
ze dvou tříd.
Mohl například rozhodovat:
·
ano, nebo ne;
·
kategorie A, nebo kategorie B;
·
objekt přítomen, nebo
nepřítomen.
Perceptron se učil úpravou vah
podle chyb.
Ve své době vyvolal velká
očekávání. Některá veřejná vyjádření naznačovala, že podobné systémy budou brzy
schopny rozpoznávat objekty, jazyky nebo lidské chování.
Jednoduchý perceptron však měl
zásadní omezení. Nedokázal řešit problémy, které nebylo možné oddělit
jednoduchou rozhodovací hranicí.
2.30 Raný optimismus
V 50. a 60. letech
panovalo mezi některými výzkumníky velké přesvědčení, že významné části lidské
inteligence budou brzy napodobeny počítačem.
Důvodem byly rychlé
počáteční úspěchy:
·
počítače hrály hry;
·
dokazovaly věty;
·
řešily logické úlohy;
·
napodobovaly jednoduchý
rozhovor;
·
pracovaly se symboly;
·
učily se z omezených příkladů.
Tyto programy však
obvykle fungovaly v malém a přesně popsaném prostředí.
Rozdíl mezi laboratorním
problémem a skutečným světem byl podceněn.
2.31 Problém reálného světa
Reálné prostředí
je složité, neúplné a proměnlivé.
Inteligentní
systém musí pracovat s problémy, jako jsou:
·
nejasné informace;
·
chybějící údaje;
·
více možných významů;
·
nečekané události;
·
fyzické omezení;
·
sociální kontext;
·
obrovské množství běžných
znalostí;
·
nejistota;
·
změny v čase.
Například věta
„Polož hrnek na stůl“ předpokládá řadu znalostí:
·
hrnek je fyzický předmět;
·
stůl má horní plochu;
·
hrnek se má postavit stabilně;
·
nemá se položit mimo okraj;
·
nemá se převrátit;
·
nesmí se položit na jiný křehký
předmět.
Člověk tyto
znalosti považuje za samozřejmé. Pro počítač je nutné je nějak reprezentovat
nebo se je naučit.
2.32 ELIZA
V 60. letech vytvořil Joseph
Weizenbaum program ELIZA.
Nejznámější verze napodobovala
psychoterapeuta.
Program používal jednoduchá
pravidla:
·
rozpoznal určitá klíčová slova;
·
převedl větu do jiné gramatické
osoby;
·
položil obecnou doplňující
otázku;
·
opakoval část uživatelova
sdělení.
Uživatel například napsal:
„Mám problémy se svou matkou.“
Program mohl odpovědět:
„Řekněte mi více o své matce.“
ELIZA nerozuměla rozhovoru v
dnešním smyslu. Přesto někteří uživatelé získali dojem, že jim program rozumí.
Tento jev se někdy označuje jako
efekt ELIZA: lidé mají sklon přisuzovat počítačovému systému hlubší porozumění,
než jaké skutečně má.
Efekt ELIZA je důležitý i v době
moderních chatbotů. Plynulá a empatická formulace může vyvolat dojem vědomí
nebo osobnosti, aniž by jej dokazovala.
2.33 SHRDLU
Na přelomu 60. a 70. let vytvořil
Terry Winograd systém SHRDLU.
Program komunikoval s uživatelem o
jednoduchém virtuálním světě obsahujícím geometrické objekty.
Uživatel mohl zadat příkaz typu:
„Polož červený blok na modrou
kostku.“
Systém dokázal:
·
rozpoznat objekty;
·
pracovat s jejich vlastnostmi;
·
reagovat na příkazy;
·
odpovídat na otázky;
·
pamatovat si některé předchozí
kroky;
·
plánovat jednoduché akce.
SHRDLU působil velmi pokročile,
protože spojoval jazyk, plánování a reprezentaci světa.
Jeho úspěch byl však závislý na
velmi omezeném prostředí. Jakmile by měl pracovat s celým reálným světem,
množství potřebných znalostí by dramaticky vzrostlo.
2.34 Robot Shakey
Shakey byl jeden z prvních
mobilních robotů schopných kombinovat vnímání, plánování a pohyb.
Byl vybaven například:
·
kamerou;
·
senzory;
·
počítačovým řízením;
·
možností pohybovat se v
jednoduchém prostředí.
Robot dokázal:
·
rozpoznat některé objekty;
·
vytvořit plán;
·
projet mezi místnostmi;
·
přesouvat předměty;
·
reagovat na příkazy.
Jeho činnost byla velmi
pomalá. Jednoduchý úkol mohl vyžadovat dlouhý výpočet.
Přesto Shakey ukázal, že
systém může propojit několik schopností:
·
vnímání;
·
model světa;
·
logické plánování;
·
fyzické jednání.
2.35 Strojový překlad a
první zklamání
Jedním
z prvních velkých cílů AI byl automatický překlad.
Během
studené války existoval silný zájem o překlad mezi ruštinou a angličtinou.
První
ukázky vypadaly nadějně, protože pracovaly s omezenou slovní zásobou a
jednoduchými větami.
Brzy se
však ukázalo, že přirozený jazyk je mimořádně složitý.
Překlad
vyžaduje znalost:
·
gramatiky;
·
významu slov;
·
kontextu;
·
idiomů;
·
kulturních souvislostí;
·
tématu;
·
záměru mluvčího.
Jedno
slovo může mít několik významů a správný překlad závisí na celé větě nebo
širším textu.
Slabé
výsledky vedly k omezení financování některých projektů strojového překladu.
2.36 První AI zima
Pojem „AI zima“ označuje
období, kdy zájem, investice a financování výzkumu umělé inteligence výrazně
poklesly.
První takové období nastalo
přibližně v 70. letech.
Hlavní příčiny byly:
·
přehnané předpovědi;
·
omezený výkon počítačů;
·
nedostatek dat;
·
vysoké náklady;
·
slabé výsledky mimo laboratorní
prostředí;
·
obtížné zpracování jazyka;
·
kombinatorická exploze;
·
neschopnost pracovat s běžnými
znalostmi;
·
zklamání financujících
institucí.
Výzkum AI nezanikl.
Pokračoval v menším rozsahu, často pod jinými názvy nebo v užších
specializacích.
AI zima ukázala, že
marketingová očekávání mohou výrazně předběhnout skutečné technické možnosti.
2.37 Kritika perceptronů
V roce 1969
publikovali Marvin Minsky a Seymour Papert knihu analyzující možnosti a omezení
perceptronů.
Ukázali, že
jednoduché jednovrstvé perceptrony nedokážou řešit některé základní úlohy,
například problém XOR.
To vedlo k poklesu
zájmu o neuronové sítě.
Důležité je, že
kritika se týkala především jednoduchých modelů. Vícevrstvé sítě by některá
omezení překonat dokázaly.
V té době však
chyběly:
·
dostatečně účinné trénovací
metody;
·
výkonné počítače;
·
velké datové soubory;
·
praktické nástroje.
Výzkum neuronových
sítí proto na určitou dobu ustoupil symbolické AI.
2.38 Expertní systémy
V 70. a 80. letech se
pozornost přesunula k expertním systémům.
Expertní systém měl
napodobit rozhodování odborníka v úzce vymezené oblasti.
Obvykle se skládal z:
·
znalostní báze;
·
souboru pravidel;
·
inferenčního mechanismu;
·
uživatelského rozhraní;
·
někdy také vysvětlujícího
modulu.
Znalosti byly často
zapisovány ve tvaru:
Jestliže nastane
podmínka, pak proveď závěr nebo akci.
Například:
Jestliže má pacient
horečku, kašel a určité výsledky vyšetření, pak zvaž konkrétní diagnózu.
Expertní systémy byly
úspěšnější než obecné projekty AI, protože se soustředily na omezenou oblast.
2.39 DENDRAL
DENDRAL patřil mezi první
významné expertní systémy.
Pomáhal chemikům určovat
strukturu organických molekul na základě experimentálních dat.
Systém kombinoval:
·
znalosti chemiků;
·
pravidla;
·
generování možných struktur;
·
porovnávání variant s
naměřenými údaji.
DENDRAL ukázal, že AI může být
prakticky užitečná, pokud se zaměří na odbornou a dobře vymezenou oblast.
2.40 MYCIN
MYCIN byl experimentální expertní
systém určený k podpoře diagnostiky některých bakteriálních infekcí a
doporučení antibiotické léčby.
Pracoval s řadou pravidel a také s
mírou jistoty.
Systém se mohl ptát na:
·
příznaky;
·
výsledky laboratorních testů;
·
vlastnosti pacienta;
·
pravděpodobný typ infekce.
MYCIN dosahoval v některých testech
velmi dobrých výsledků. Přesto nebyl běžně zaveden do klinické praxe.
Důvody zahrnovaly:
·
právní odpovědnost;
·
integraci do nemocničního
provozu;
·
nedůvěru uživatelů;
·
technická omezení;
·
obtížnou údržbu znalostní báze.
Příklad MYCIN ukazuje, že technická
přesnost sama o sobě nestačí. Úspěšné nasazení vyžaduje také důvěru, procesy,
legislativu a praktickou použitelnost.
2.41 Znalostní inženýrství
Při vývoji
expertních systémů bylo nutné získat znalosti od odborníků a převést je do
pravidel.
Tento proces se
označoval jako znalostní inženýrství.
Znalostní inženýr
vedl rozhovory s experty a snažil se zjistit:
·
jaké informace používají;
·
jak rozhodují;
·
jaké výjimky zohledňují;
·
jak poznají neobvyklý případ;
·
jak pracují s nejistotou.
To bylo obtížné,
protože odborníci často nedokážou přesně popsat všechny kroky svého uvažování.
Mnoho znalostí je
založeno na zkušenosti a intuici.
Tento problém se
označoval jako úzké hrdlo získávání znalostí.
2.42 Omezení expertních
systémů
Expertní
systémy měly několik významných nevýhod.
Ruční tvorba pravidel
Každé pravidlo musel vytvořit a ověřit člověk.
Obtížná údržba
Při tisících pravidel bylo složité zjistit, zda si neodporují.
Křehkost
Systém mohl výborně pracovat ve známých situacích, ale selhat při
nečekaném vstupu.
Omezená schopnost učení
Většina systémů se sama neučila z nových dat.
Náklady
Vývoj a aktualizace byly drahé.
Závislost na odbornících
Kvalita systému závisela na dostupnosti expertů a přesnosti jejich
znalostí.
Tyto problémy postupně snižovaly ekonomickou výhodnost expertních
systémů.
2.43 Rozmach komerční AI
v 80. letech
V 80.
letech vznikaly společnosti zaměřené na expertní systémy a specializovaný
hardware.
Některé
organizace očekávaly, že expertní systémy zásadně změní podnikání.
Používaly
se například pro:
·
konfiguraci počítačů;
·
diagnostiku strojů;
·
finanční rozhodování;
·
plánování;
·
geologický průzkum;
·
technickou podporu.
Jedním
ze známých úspěchů byl systém XCON, který pomáhal konfigurovat objednávky
počítačových systémů.
Komerční
zájem však vedl také k dalším přehnaným očekáváním.
2.44 Japonský
projekt počítačů páté generace
Japonsko
zahájilo v 80. letech rozsáhlý projekt vývoje počítačů páté generace.
Cílem
bylo vytvořit nové počítačové systémy zaměřené na:
·
logické programování;
·
paralelní výpočty;
·
zpracování znalostí;
·
inteligentní rozhraní;
·
řešení složitých problémů.
Projekt
vyvolal obavy v dalších zemích, které začaly podporovat vlastní výzkumné
programy.
Výsledky
však nenaplnily všechna očekávání. Vývoj běžných počítačů a jiných
programovacích přístupů postupoval rychleji.
2.45 Druhá AI zima
Na konci 80. let a začátku
90. let přišel další pokles zájmu o AI.
Příčiny zahrnovaly:
·
vysoké náklady expertních
systémů;
·
obtížnou údržbu;
·
zánik trhu specializovaných
pracovních stanic;
·
konkurenci běžných počítačů;
·
nesplněné obchodní sliby;
·
slabou schopnost systémů
přizpůsobovat se;
·
zklamání investorů.
Mnoho společností
zaměřených na AI zaniklo nebo změnilo zaměření.
Výzkum však pokračoval v
oblastech, jako byly:
·
statistické metody;
·
rozpoznávání vzorů;
·
neuronové sítě;
·
robotika;
·
pravděpodobnostní modely;
·
optimalizace.
2.46 Návrat neuronových sítí
V 80. letech
získaly neuronové sítě nový impuls díky rozvoji algoritmu zpětného šíření
chyby.
Tento algoritmus
umožnil efektivněji trénovat vícevrstvé neuronové sítě.
Zjednodušený
postup:
1.
síť obdrží vstup;
2.
vypočítá výstup;
3.
porovná jej se správnou
odpovědí;
4.
určí velikost chyby;
5.
chyba se šíří zpět sítí;
6.
váhy spojení se upraví;
7.
proces se opakuje.
Vícevrstvé sítě
dokázaly vytvářet složitější rozhodovací hranice než jednoduchý perceptron.
Jejich praktické
možnosti však stále omezoval výkon počítačů a množství dat.
2.47 Pravděpodobnostní přístup
Reálný svět
obsahuje nejistotu.
Systém často
neví jistě:
·
zda je objekt na snímku člověk;
·
zda pacient trpí určitou
nemocí;
·
zda transakce představuje
podvod;
·
jaké bude počasí;
·
jaký význam má nejednoznačná
věta.
Proto se stále
více používaly pravděpodobnostní metody.
Místo pevného
závěru mohl systém pracovat s tvrzením:
„Existuje 80%
pravděpodobnost, že jde o poruchu typu A.“
Významnou roli
získaly například Bayesovské sítě, které reprezentují pravděpodobnostní vztahy
mezi událostmi.
Pravděpodobnostní
přístup umožnil AI lépe pracovat s neúplnými a nejistými informacemi.
2.48 Statistické strojové
učení
Od 90. let se
výrazně prosazoval přístup založený na datech a statistice.
Namísto
ručního zadávání tisíců pravidel se modely učily z příkladů.
Rozvíjely se
metody jako:
·
rozhodovací stromy;
·
regresní modely;
·
metoda podpůrných vektorů;
·
k-nearest neighbors;
·
náhodné lesy;
·
Bayesovské klasifikátory;
·
shlukování;
·
skryté Markovovy modely.
Tyto metody
byly úspěšné zejména tam, kde bylo k dispozici dostatečné množství kvalitních
dat.
AI se postupně
přestala chápat pouze jako napodobování lidského logického uvažování. Stále
více znamenala vytváření modelů, které dokážou přesně předpovídat nebo
klasifikovat.
2.49 Rozpoznávání řeči
Rozpoznávání řeči bylo
dlouhodobě velmi obtížným problémem.
Řeč se liší podle:
·
mluvčího;
·
přízvuku;
·
rychlosti;
·
hlasitosti;
·
okolního hluku;
·
zdravotního stavu;
·
použitého mikrofonu;
·
kontextu.
Statistické metody
umožnily modelovat pravděpodobné posloupnosti zvuků a slov.
Významnou roli hrály
skryté Markovovy modely a jazykové modely založené na pravděpodobnosti slovních
posloupností.
S rostoucím množstvím
dat se přesnost rozpoznávání řeči postupně zlepšovala.
2.50 Statistický strojový
překlad
Také
strojový překlad se postupně přesunul od ručně psaných gramatických pravidel ke
statistickým metodám.
Modely
analyzovaly velké množství paralelních textů, tedy stejných dokumentů v různých
jazycích.
Zjišťovaly
například:
·
která slova si často
odpovídají;
·
jak se mění slovosled;
·
jaké fráze se obvykle
překládají společně;
·
který překlad je v daném
kontextu pravděpodobnější.
Statistický
překlad přinesl výrazné zlepšení, přesto často vytvářel nepřirozené věty a měl
potíže s delším kontextem.
2.51 IBM Deep Blue
V roce 1997 porazil šachový
počítač IBM Deep Blue úřadujícího mistra světa Garriho Kasparova v zápase na
šest partií.
Událost měla velký mediální
význam.
Deep Blue používal:
·
velmi rychlé prohledávání
herního stromu;
·
specializovaný hardware;
·
hodnoticí funkce;
·
databáze šachových pozic;
·
pravidla vytvořená s pomocí
šachových odborníků.
Nešlo o obecnou
inteligenci. Systém byl specializovaný na šachy.
Přesto vítězství ukázalo,
že kombinace výpočetního výkonu, algoritmů a odborných znalostí může překonat
člověka v intelektuálně náročné, ale přesně vymezené úloze.
2.52 Rozdíl mezi
Deep Blue a moderním učením
Deep
Blue bývá někdy chybně popisován jako systém podobný dnešním neuronovým sítím.
Ve
skutečnosti se opíral především o:
·
prohledávání velkého množství
tahů;
·
ručně vytvořené hodnoticí
principy;
·
specializaci na šachy;
·
rozsáhlý výpočetní výkon.
Moderní
systémy strojového učení se ve větší míře učí reprezentace a strategie z dat
nebo ze simulovaného hraní.
Deep
Blue byl významným milníkem, ale představoval jiný přístup než pozdější systémy
jako AlphaGo.
2.53 Internet a vznik
velkých dat
Rozšíření
internetu zásadně změnilo podmínky pro vývoj AI.
Začalo
vznikat obrovské množství digitálních dat:
·
webové stránky;
·
e-maily;
·
fotografie;
·
videa;
·
nákupní historie;
·
vyhledávací dotazy;
·
příspěvky na sociálních sítích;
·
mapové údaje;
·
záznamy ze senzorů;
·
digitální knihy.
Data se
stala klíčovou surovinou strojového učení.
Čím více
vhodných příkladů měl model k dispozici, tím lépe mohl rozpoznávat vzory.
Internet
také umožnil shromažďovat zpětnou vazbu od milionů uživatelů.
2.54 Mooreův zákon a růst
výkonu
Vývoj AI
výrazně podpořil dlouhodobý růst výkonu počítačů.
S rostoucím
počtem tranzistorů bylo možné:
·
provádět více výpočtů;
·
pracovat s většími modely;
·
ukládat více dat;
·
rychleji trénovat algoritmy;
·
používat AI v běžných
zařízeních.
Zároveň
klesala cena výpočetního výkonu a datových úložišť.
Úlohy, které
dříve vyžadovaly specializovanou laboratoř, bylo později možné provádět na
běžném počítači nebo v datovém centru.
2.55 Grafické procesory
Grafické procesory
neboli GPU byly původně vyvinuty zejména pro vykreslování počítačové grafiky.
Grafika vyžaduje
provádění velkého množství podobných matematických operací současně.
Stejná vlastnost je
užitečná také při trénování neuronových sítí.
GPU mohou paralelně
provádět operace s maticemi a vektory, které jsou základem hlubokého učení.
Jejich využití výrazně
urychlilo trénování rozsáhlých modelů.
Bez výkonných
grafických procesorů by rozvoj moderní generativní AI probíhal mnohem pomaleji.
2.56 Soutěže a veřejné
datové soubory
Vývoj
strojového učení podpořily také veřejné soutěže a standardizované datové
soubory.
Výzkumníci
mohli porovnávat metody na stejných úlohách.
Příklady
úloh:
·
rozpoznání ručně psaných
číslic;
·
klasifikace fotografií;
·
rozpoznávání řeči;
·
předpověď hodnocení filmů;
·
analýza textu;
·
detekce objektů.
Soutěže
vytvářely tlak na zlepšování přesnosti a usnadňovaly měření pokroku.
Zároveň
však hrozilo, že se výzkum příliš zaměří na konkrétní test místo skutečného
praktického problému.
2.57 ImageNet
ImageNet je rozsáhlý soubor
obrazových dat vytvořený pro výzkum počítačového vidění.
Obsahoval miliony fotografií
označených podle kategorií.
Díky němu mohli výzkumníci
trénovat a porovnávat modely rozpoznávající velké množství objektů.
Každoroční soutěže ImageNet se
staly důležitým měřítkem vývoje počítačového vidění.
Právě zde došlo v roce 2012 k
jednomu z nejvýznamnějších průlomů hlubokého učení.
2.58 AlexNet a průlom
hlubokého učení
V roce
2012 zvítězila v obrazové soutěži neuronová síť známá jako AlexNet.
Dosáhla
výrazně lepšího výsledku než konkurenční metody.
Úspěch
byl založen na kombinaci:
·
hluboké konvoluční neuronové
sítě;
·
velkého množství označených
obrázků;
·
využití grafických procesorů;
·
účinnějších trénovacích
postupů;
·
metod omezujících přeučení.
AlexNet
ukázal, že hluboké neuronové sítě mohou při dostatku dat a výpočetního výkonu
výrazně překonat ručně navrhované obrazové metody.
Rok 2012
je proto často označován za začátek moderní revoluce hlubokého učení.
2.59 Konvoluční neuronové sítě
Konvoluční
neuronové sítě byly navrženy zejména pro práci s obrazem.
Postupně se učí
rozpoznávat různé úrovně znaků.
Nižší vrstvy
mohou reagovat na:
·
hrany;
·
přechody barev;
·
jednoduché tvary.
Vyšší vrstvy
mohou kombinovat tyto znaky do složitějších struktur:
·
oči;
·
kola;
·
obličeje;
·
části zvířat;
·
celé objekty.
Významnou
vlastností je, že síť nemusí mít všechny obrazové znaky ručně naprogramovány.
Učí se je z dat.
2.60 Hluboké učení v řeči a
jazyce
Po úspěších
v obrazu se hluboké učení rychle rozšířilo také do dalších oblastí.
Neuronové
sítě zlepšily:
·
rozpoznávání řeči;
·
syntézu hlasu;
·
automatický překlad;
·
analýzu textu;
·
vyhledávání;
·
doporučovací systémy.
Modely
dokázaly pracovat s méně ručně vytvořenými vlastnostmi a učit se vhodné
reprezentace přímo z dat.
Tím se
snížila potřeba, aby odborníci přesně navrhovali každý krok zpracování.
2.61 Reprezentační učení
Tradiční systémy
často vyžadovaly, aby člověk předem určil, které vlastnosti dat jsou důležité.
Například při
rozpoznávání obličeje mohl programátor navrhnout měření:
·
vzdálenosti mezi očima;
·
tvaru nosu;
·
obrysu hlavy;
·
polohy úst.
Hluboké učení
umožnilo, aby model sám vytvářel vnitřní reprezentace užitečné pro danou úlohu.
Tomu se říká
reprezentační učení.
Model se neučí pouze
konečnou odpověď. Učí se také způsob, jak data převést do vhodné vnitřní
podoby.
2.62 Rekurentní neuronové sítě
Při práci s
textem, řečí nebo časovými řadami je důležité pořadí.
Rekurentní
neuronové sítě byly navrženy tak, aby zpracovávaly posloupnosti.
V určité podobě
uchovávaly informaci o předchozích prvcích.
Mohly se
používat například pro:
·
předpověď dalšího slova;
·
analýzu věty;
·
rozpoznávání řeči;
·
předpověď časové řady;
·
generování textu.
Měly však
potíže s uchováním velmi dlouhého kontextu a s efektivním paralelním
trénováním.
Později byly
částečně nahrazeny transformery.
2.63 Neuronový strojový
překlad
Kolem poloviny
2010. let začal statistický překlad nahrazovat neuronový strojový překlad.
Namísto
skládání překladu z jednotlivých frází používal neuronový model celkovou
reprezentaci věty.
Systémy typu
encoder–decoder:
1.
převedly vstupní větu do
vnitřní reprezentace;
2.
z ní postupně vytvářely větu v
cílovém jazyce.
Výsledky byly
často plynulejší a přirozenější.
Problémem
zůstával dlouhý text, vzácná slova a uchování všech důležitých informací.
2.64 Mechanismus pozornosti
Mechanismus
pozornosti umožnil modelu při vytváření každé části výstupu zaměřit se na
nejdůležitější části vstupu.
Při překladu
například nemusí být celá věta stlačena do jediné pevné reprezentace.
Když model vytváří
konkrétní slovo překladu, může přikládat větší význam odpovídajícím slovům ve
vstupní větě.
Pozornost vedla k
výraznému zlepšení práce s delšími posloupnostmi.
Později se stala
klíčovým základem transformerů.
2.65 AlphaGo
Hra Go byla dlouho považována za
mimořádně náročnou pro počítače.
Má jednoduchá pravidla, ale
obrovské množství možných pozic a tahů.
V roce 2016 porazil systém
AlphaGo jihokorejského profesionálního hráče Lee Sedola v zápase na pět partií.
AlphaGo kombinoval:
·
hluboké neuronové sítě;
·
učení z lidských partií;
·
posilované učení;
·
hraní proti vlastní kopii;
·
prohledávání herního stromu;
·
odhad hodnoty pozice.
Výsledek byl překvapivý, protože
mnoho odborníků očekávalo takový úspěch až později.
2.66 Posilované učení
Posilované učení je
metoda, při které se agent učí prostřednictvím odměn a trestů.
Agent:
1. pozoruje stav prostředí;
2. zvolí akci;
3. obdrží odměnu;
4. prostředí se změní;
5. agent upraví svou strategii.
Cílem je maximalizovat
dlouhodobou celkovou odměnu.
Příklady využití:
·
hraní her;
·
řízení robota;
·
optimalizace procesů;
·
plánování;
·
řízení spotřeby energie;
·
rozhodování v simulacích.
Posilované učení se liší
od učení s učitelem. Systém nemusí mít pro každý krok předem připravenou
správnou odpověď. Učí se z následků vlastních rozhodnutí.
2.67 AlphaGo Zero
Pozdější systém AlphaGo Zero
se učil hru bez využití databáze lidských partií.
Dostal pouze pravidla a hrál
velké množství partií sám proti sobě.
Postupně vytvářel vlastní
strategie.
Tento výsledek byl významný,
protože ukázal, že systém může v přesně definovaném prostředí dosáhnout vysoké
úrovně bez napodobování lidských expertů.
Je však důležité zdůraznit,
že hra Go má:
·
jasná pravidla;
·
jednoznačný cíl;
·
snadno měřitelný výsledek;
·
možnost provést obrovské
množství simulací.
Reálný svět takto přesně
definovaný není.
2.68 Transformer
V roce 2017 byla představena
architektura transformer.
Jejím základním prvkem je
mechanismus self-attention neboli sebepozornost.
Model může vyhodnocovat
vztahy mezi různými částmi vstupní posloupnosti bez nutnosti zpracovávat text
výhradně slovo po slovu.
To přineslo několik výhod:
·
lepší práci s dlouhým
kontextem;
·
efektivnější paralelní
trénování;
·
škálování na velké datové
soubory;
·
kvalitnější reprezentaci
významových vztahů;
·
použití v textu, obrazu, zvuku
i videu.
Transformery se staly
základem většiny moderních velkých jazykových modelů.
2.69 Sebepozornost
Sebepozornost umožňuje
modelu určit, které části vstupu spolu souvisejí.
Ve větě:
„Petr položil sklenici na
stůl, protože byl stabilní.“
Model musí odhadnout, k
čemu se vztahuje slovo „stabilní“.
Mechanismus pozornosti
porovnává jednotlivé prvky věty a přiřazuje jim různou důležitost.
V textu může pomáhat
chápat:
·
vztahy mezi slovy;
·
odkazy zájmen;
·
význam podle kontextu;
·
vazby mezi vzdálenými částmi
dokumentu.
Pozornost neznamená lidské
vědomé soustředění. Jde o matematický mechanismus určující váhu vztahů mezi
prvky.
2.70 Předtrénování
Významnou změnou bylo
předtrénování velkých modelů na rozsáhlém množství textu.
Model se nejprve učí obecné
jazykové vzory například pomocí úlohy:
·
předpověz další část textu;
·
doplň chybějící slovo;
·
rekonstruuj zakryté části;
·
rozliš správné a nesprávné
pokračování.
Tím získá obecnou schopnost
pracovat s jazykem.
Následně může být
přizpůsoben konkrétní úloze pomocí menšího množství specializovaných dat.
Tento postup je
efektivnější než trénovat pro každou úlohu úplně nový model.
2.71 Word embeddings
Ještě před rozšířením
transformerů se významným nástrojem staly vektorové reprezentace slov.
Každé slovo je převedeno
na seznam čísel, tedy vektor.
Slova používaná v
podobných souvislostech mají podobné vektory.
Model může zachytit
vztahy typu:
·
král a královna;
·
muž a žena;
·
Praha a Česko;
·
Paříž a Francie.
Vektorové reprezentace
umožnily pracovat s významovou podobností matematickým způsobem.
Moderní modely používají
kontextové reprezentace, ve kterých může mít stejné slovo různou reprezentaci
podle věty.
2.72 BERT
BERT je transformerový jazykový
model zaměřený na porozumění textu.
Byl trénován tak, aby využíval
kontext z obou stran určitého slova.
To mu pomáhalo při úlohách jako:
·
klasifikace textu;
·
hledání odpovědí;
·
rozpoznávání pojmenovaných
entit;
·
analýza významu;
·
vyhledávání.
BERT a podobné modely výrazně
zlepšily výsledky v mnoha úlohách zpracování přirozeného jazyka.
Ukázaly, že jeden rozsáhlý
předtrénovaný model lze přizpůsobit mnoha různým úlohám.
2.73 Generativní
předtrénované transformery
Zkratka
GPT znamená Generative Pre-trained Transformer.
Název
vyjadřuje tři hlavní vlastnosti:
Generative
Model vytváří nový text.
Pre-trained
Nejprve je předtrénován na
velkém množství dat.
Transformer
Používá transformerovou
architekturu.
GPT modely se učí
předpovídat pokračování textu. Tato zdánlivě jednoduchá úloha je nutí učit se
velké množství jazykových a faktických vzorů.
S růstem modelů se objevily
schopnosti:
·
odpovídat na otázky;
·
shrnovat text;
·
překládat;
·
doplňovat kód;
·
upravovat styl;
·
vysvětlovat pojmy;
·
vytvářet návrhy;
·
plnit instrukce.
2.74 Škálování modelů
Výzkumníci zjistili, že
výkon jazykových modelů často roste s kombinací:
·
většího množství parametrů;
·
většího množství dat;
·
vyššího výpočetního výkonu;
·
kvalitnějšího tréninku.
Tento trend vedl ke
vzniku stále větších modelů.
Větší model však není
automaticky lepší ve všech ohledech.
Přináší také problémy:
·
vysokou cenu trénování;
·
energetickou náročnost;
·
pomalejší provoz;
·
náročné nasazení;
·
obtížnější kontrolu;
·
větší dopad chyb;
·
složitější ochranu dat.
Vedle velmi velkých
modelů proto vznikají také menší a specializované systémy.
2.75 Učení z instrukcí
Základní jazykový model
pouze předpovídá pokračování textu. Nemusí automaticky přesně plnit uživatelské
pokyny.
Proto se začaly
používat metody přizpůsobení modelů na instrukce.
Model dostává příklady:
·
otázka a správná odpověď;
·
příkaz a vhodně provedený úkol;
·
nevhodná a opravená reakce;
·
různé formáty odpovědí.
Tím se učí reagovat
způsobem, který je pro uživatele užitečnější.
2.76 Učení z lidské zpětné
vazby
Jednou z
metod přizpůsobení jazykových modelů je učení z lidské zpětné vazby.
Lidé
porovnávají různé odpovědi modelu a hodnotí, která je lepší.
Z těchto
hodnocení se vytvoří model odměny.
Jazykový
model je následně optimalizován tak, aby vytvářel odpovědi, které získávají
vyšší hodnocení.
Tento proces
může pomoci zlepšit:
·
užitečnost;
·
srozumitelnost;
·
dodržování instrukcí;
·
bezpečnost;
·
vhodný tón.
Lidské
hodnocení však může obsahovat vlastní zkreslení a nemůže pokrýt všechny možné
situace.
2.77 Chatovací jazykové modely
Kombinace
transformerů, rozsáhlého předtrénování a přizpůsobení na instrukce umožnila
vznik konverzačních systémů.
Ty mohou:
·
reagovat na navazující otázky;
·
upravovat předchozí odpověď;
·
pracovat s kontextem rozhovoru;
·
vysvětlovat různé úrovně
obtížnosti;
·
vytvářet strukturovaný text;
·
pomáhat s analýzou;
·
generovat kód;
·
pracovat s dokumenty.
Konverzační
forma výrazně snížila bariéru vstupu. Uživatel nemusel znát programování ani
zvláštní příkazy. Stačilo psát běžným jazykem.
2.78 Rozšíření generativní AI
Generativní AI
se nerozvíjela pouze v oblasti textu.
Vznikaly modely
schopné generovat:
·
obrázky;
·
hlas;
·
hudbu;
·
video;
·
trojrozměrné objekty;
·
programový kód;
·
animace;
·
návrhy molekul.
Důležitými
přístupy byly například:
·
generativní adversariální sítě;
·
variační autoenkodéry;
·
autoregresivní modely;
·
difuzní modely;
·
transformery.
Každý přístup
měl jiné vlastnosti a oblasti použití.
2.79 Generativní
adversariální sítě
Generativní
adversariální síť se skládá ze dvou částí:
·
generátoru;
·
diskriminátoru.
Generátor
vytváří nový obsah.
Diskriminátor
se snaží rozpoznat, zda je obsah skutečný, nebo vygenerovaný.
Oba modely
se učí proti sobě.
Generátor
se postupně zlepšuje v klamání diskriminátoru a diskriminátor se zlepšuje v
rozpoznávání falešných vzorků.
GAN modely
byly využívány například pro:
·
tvorbu realistických obličejů;
·
změnu stylu obrazu;
·
zvýšení rozlišení;
·
generování návrhů;
·
syntézu obrazových dat.
Jejich
trénování však mohlo být nestabilní.
2.80 Difuzní modely
Difuzní modely se staly
významnou technologií pro generování obrazů.
Zjednodušeně se učí
obrátit proces postupného přidávání šumu.
Při tréninku:
1. k obrázku se postupně přidává šum;
2. model se učí odhadnout, jak šum odstranit;
3. opakováním se naučí rekonstruovat obrazovou strukturu.
Při generování:
1. proces začíná náhodným šumem;
2. model jej postupně odšumuje;
3. výsledkem je nový obrázek.
Model lze řídit textovým
popisem.
Difuzní modely umožnily
vznik široce používaných nástrojů pro generování obrazů.
2.81 Multimodální modely
První rozsáhlé modely
byly často zaměřeny pouze na jeden typ dat.
Textový model
pracoval s textem, obrazový model s obrázky a zvukový model se zvukem.
Multimodální modely
kombinují více druhů vstupu nebo výstupu.
Mohou například:
·
popsat fotografii;
·
odpovědět na otázku o grafu;
·
přečíst text v obrázku;
·
analyzovat dokument;
·
pracovat s hlasem;
·
spojit textové a obrazové
instrukce;
·
generovat obraz podle textu.
Multimodalita
přibližuje interakci s AI běžnému lidskému způsobu práce, který také kombinuje
zrak, sluch, jazyk a další smysly.
2.82 ChatGPT a
masové rozšíření generativní AI
Veřejné
zpřístupnění ChatGPT na konci roku 2022 výrazně urychlilo zájem o generativní
AI.
Důležité
nebylo pouze to, že jazykové modely již existovaly. Zásadní byla snadná
dostupnost v podobě jednoduchého konverzačního rozhraní.
Uživatelé
mohli bez programování:
·
klást otázky;
·
vytvářet text;
·
shrnovat dokumenty;
·
překládat;
·
psát kód;
·
generovat nápady;
·
upravovat styl;
·
připravovat pracovní materiály.
Generativní
AI se během krátké doby dostala do škol, firem, médií i domácností.
Současně
se naplno projevila její omezení:
·
halucinace;
·
nejasný původ dat;
·
problémy s autorskými právy;
·
ochrana soukromí;
·
riziko podvodů;
·
automatizace dezinformací;
·
závislost uživatelů;
·
obtížné ověřování výstupů.
2.83 AI jako běžná
infrastruktura
Mnoho
technologií přestane být po rozšíření vnímáno jako „umělá inteligence“.
Automatická
oprava textu, doporučování hudby nebo rozpoznávání řeči mohou uživatelům
připadat jako běžná funkce.
Tomuto jevu
se někdy říká efekt AI: jakmile je určitý problém uspokojivě vyřešen, lidé jej
přestanou považovat za skutečnou inteligenci.
AI se tak
postupně stává součástí běžné digitální infrastruktury.
Je
zabudována v:
·
vyhledávačích;
·
kancelářských programech;
·
mobilních telefonech;
·
automobilech;
·
průmyslových systémech;
·
zdravotnickém softwaru;
·
bankovních službách;
·
internetových obchodech.
2.84 Vývoj od pravidel k datům
Historii AI lze
zjednodušeně popsat jako posun mezi několika přístupy.
Ručně vytvořená pravidla
Člověk přesně popíše, jak má systém postupovat.
Symbolické reprezentace
Systém pracuje s pojmy, vztahy a logickým odvozováním.
Statistické učení
Model odhaduje pravděpodobnosti a učí se z dat.
Hluboké učení
Neuronové sítě se učí složité vnitřní reprezentace.
Základní modely
Velký model je předtrénován na širokých datech a používán pro mnoho
úloh.
Jednotlivé přístupy se vzájemně nevylučují. Moderní systémy mohou
kombinovat:
·
neuronové modely;
·
databáze;
·
vyhledávání;
·
logická pravidla;
·
externí nástroje;
·
lidskou kontrolu.
2.85 Vývoj od
specializovaných systémů k základním modelům
Tradiční
model byl obvykle trénován pro jedinou úlohu.
Například:
·
rozpoznat spam;
·
určit druh rostliny;
·
předpovědět cenu;
·
přeložit větu.
Základní
model je trénován na širokém množství dat a následně může být přizpůsoben mnoha
účelům.
Jeden
model může například:
·
shrnovat;
·
překládat;
·
klasifikovat;
·
odpovídat;
·
generovat;
·
vysvětlovat;
·
pracovat s kódem.
Tento
posun změnil ekonomiku vývoje AI. Namísto budování každého systému od začátku
mohou organizace využít již předtrénovaný model.
Zároveň
vzniká závislost na několika velkých poskytovatelích a jejich infrastruktuře.
2.86 Historie AI
jako střídání očekávání a reality
Vývoj
umělé inteligence opakovaně probíhal podle podobného vzorce:
1.
objeví se nový technický
průlom;
2.
výsledky v omezených testech
vypadají velmi slibně;
3.
veřejnost a investoři očekávají
rychlou revoluci;
4.
technologie se nasadí na
složitější problémy;
5.
projeví se omezení;
6.
část projektů selže;
7.
zájem poklesne;
8.
výzkum pokračuje a nachází
realističtější použití.
Tento
cyklus je důležitý i dnes.
Generativní
AI je skutečně významná technologie, ale není řešením každého problému.
Historie
ukazuje, že dlouhodobě uspějí především ty aplikace, které:
·
řeší konkrétní potřebu;
·
mají kvalitní data;
·
jsou ekonomicky smysluplné;
·
počítají s chybami;
·
zahrnují lidskou kontrolu;
·
respektují právní a etické
požadavky.
2.87 Význam neúspěchů
Historie AI není tvořena
pouze úspěchy.
Neúspěšné projekty
pomohly odhalit důležité problémy:
·
samotný výpočetní výkon
nestačí;
·
pravidla nelze snadno sepsat
pro celý svět;
·
jazyk je závislý na kontextu;
·
model může dobře fungovat v
laboratoři a špatně v praxi;
·
data mohou být zkreslená;
·
přesnost není jediným
kritériem;
·
uživatelé potřebují vysvětlení;
·
nasazení vyžaduje organizační
změny;
·
AI musí být průběžně
kontrolována.
Mnoho dnešních
bezpečnostních a metodických postupů vzniklo právě díky zkušenostem s
dřívějšími selháními.
2.88 Historický vývoj a
dnešní mýty
Některé
dnešní představy mají v historii opakující se obdobu.
„Obecná AI vznikne
během několika let“
Podobné předpovědi se
objevovaly již v 50. a 60. letech.
„Stačí přidat více pravidel“
Expertní systémy ukázaly, že
množství pravidel může být obtížně spravovatelné.
„Stačí přidat více dat“
Více dat může pomoci, ale nezaručuje
spravedlnost, pravdivost ani bezpečnost.
„Počítač porazil
člověka, proto obecně myslí lépe“
Deep Blue i AlphaGo
byly mimořádné ve své oblasti, ale nešlo o obecnou inteligenci.
„Plynulá
konverzace dokazuje porozumění“
Již ELIZA ukázala, že
člověk může připisovat porozumění i jednoduchému systému.
Historie proto pomáhá
posuzovat dnešní tvrzení s větší opatrností.
2.89 Přehled hlavních období
Období před počítači
Vznikaly mechanické automaty, počítací stroje, matematická logika a
první myšlenky programovatelných zařízení.
40. a 50. léta 20. století
Vznikly elektronické počítače, matematické neurony, teorie výpočtu a
první programy napodobující inteligentní činnost.
50. a 60. léta
Převládal symbolický přístup, logické dokazování, řešení problémů a
rané neuronové modely.
70.
léta
Projevila se omezení raných systémů a nastala první AI zima.
80.
léta
Rozvíjely se expertní systémy a znovu se objevily neuronové sítě.
Konec 80. a začátek 90. let
Nastala druhá AI zima a pokles komerčního zájmu.
90. léta a začátek 21. století
Prosazovalo se statistické strojové učení, pravděpodobnostní metody
a internetová data.
Po roce 2012
Hluboké učení přineslo zásadní pokrok v obrazu, řeči a jazyce.
Po roce 2017
Transformery umožnily rozvoj rozsáhlých jazykových a multimodálních
modelů.
Po roce 2022
Generativní AI se rozšířila mezi širokou veřejnost a začala být
začleňována do běžných pracovních nástrojů.
2.90 Časová osa hlavních
milníků
|
Rok |
Událost |
|
1642 |
Pascal
vytváří mechanickou kalkulačku |
|
1670s |
Leibniz
rozvíjí mechanický výpočetní stroj |
|
1800s |
Babbage
navrhuje diferenční a analytický stroj |
|
1840s |
Ada
Lovelace popisuje algoritmus pro analytický stroj |
|
1854 |
Boole
publikuje základy Booleovy algebry |
|
1936 |
Turing
popisuje teoretický výpočetní stroj |
|
1943 |
McCulloch a
Pitts představují matematický neuron |
|
1949 |
Hebb
popisuje princip učení neuronových spojení |
|
1950 |
Turing
publikuje návrh imitační hry |
|
1952 |
Arthur
Samuel rozvíjí program hrající dámu |
|
1956 |
Dartmouthský
projekt formálně zakládá obor AI |
|
1956 |
Vzniká
Logic Theorist |
|
1958 |
Rosenblatt
představuje perceptron |
|
1958 |
McCarthy
vytváří jazyk Lisp |
|
1960s |
Rozvoj
symbolické AI a řešení problémů |
|
1966 |
Vzniká
ELIZA |
|
1960s–70s |
Vývoj
robota Shakey |
|
1970 |
Rozvoj
systému SHRDLU |
|
1970s |
První AI
zima |
|
1970s |
Rozvoj
expertních systémů |
|
1970s |
Vznik
systémů DENDRAL a MYCIN |
|
1980s |
Komerční
rozmach expertních systémů |
|
1980s |
Návrat
vícevrstvých neuronových sítí |
|
Konec 1980s |
Začátek
druhé AI zimy |
|
1990s |
Rozmach
statistického strojového učení |
|
1997 |
Deep Blue
poráží Garriho Kasparova |
|
2000s |
Prudce
roste množství internetových dat |
|
2009 |
Rozvoj
rozsáhlého obrazového souboru ImageNet |
|
2012 |
AlexNet
přináší průlom hlubokého učení |
|
2014 |
Výrazný
rozvoj generativních adversariálních sítí |
|
2014–2016 |
Rozmach
neuronového strojového překladu |
|
2016 |
AlphaGo
poráží Lee Sedola |
|
2017 |
Je
představena architektura transformer |
|
2018 |
BERT
zlepšuje porozumění textu |
|
2020s |
Rychle se
rozvíjejí velké jazykové modely |
|
2022 |
Generativní
chatboty se masově rozšiřují |
|
2020s |
Rozvoj
multimodálních, obrazových a video modelů |
2.91 Porovnání
hlavních historických přístupů
|
Přístup |
Základní princip |
Výhody |
Omezení |
|
Symbolická AI |
Pravidla, logika a symboly |
Vysvětlitelnost, přesná pravidla |
Křehkost, obtížná práce s nejistotou |
|
Expertní systémy |
Znalosti odborníků v pravidlech |
Dobré výsledky v úzké oblasti |
Dražší údržba, malá schopnost učení |
|
Statistické učení |
Pravděpodobnost a učení z dat |
Práce s nejistotou, praktické předpovědi |
Potřeba vhodných dat |
|
Neuronové sítě |
Učení vah v propojené síti |
Automatické učení složitých vzorů |
Obtížná vysvětlitelnost |
|
Hluboké učení |
Vícevrstvé neuronové sítě |
Výborné výsledky v obrazu, řeči a textu |
Vysoké nároky na data a výkon |
|
Základní modely |
Rozsáhlé předtrénování pro mnoho úloh |
Široké využití, přenos schopností |
Náklady, halucinace, kontrola a bezpečnost |
|
Hybridní systémy |
Kombinace modelů, pravidel a nástrojů |
Vyšší spolehlivost a flexibilita |
Složitější návrh a správa |
2.92 Případová
studie: od šachů k AlphaGo
Vývoj
herních systémů dobře ukazuje změnu metod AI.
Rané šachové programy
Používaly
jednoduchá pravidla a mělké prohledávání.
Deep Blue
Spoléhal na obrovský výpočetní
výkon, specializovaný hardware, hledání tahů a odborně vytvořené hodnocení
pozic.
AlphaGo
Kombinoval hluboké učení,
zkušenost z lidských partií, hraní proti sobě a prohledávání.
AlphaGo Zero
Učil se pouze z pravidel a
vlastních her.
Tento vývoj ukazuje posun:
·
od ručně vytvořených pravidel;
·
přes vyhledávání;
·
k učení z dat;
·
až k samostatnému zlepšování v
simulovaném prostředí.
Nelze jej však jednoduše
přenést na každý problém. Hry mají jasná pravidla a jednoznačný výsledek,
zatímco skutečný svět je mnohem méně předvídatelný.
2.93 Případová
studie: od ELIZA k moderním chatbotům
ELIZA
Používala klíčová slova a předem
vytvořené vzory.
Pravidlové chatboty
Pracovaly s
rozhodovacími stromy a připravenými odpověďmi.
Statistické jazykové modely
Odhadovaly
pravděpodobnost slovních posloupností.
Neuronové modely
Učily se reprezentace
vět a generovaly plynulejší text.
Transformery
Dokázaly lépe pracovat s
kontextem a velkými datovými soubory.
Moderní konverzační modely
Jsou
předtrénovány na rozsáhlém textu, přizpůsobeny instrukcím a někdy propojeny s
vyhledáváním nebo externími nástroji.
Základní
psychologický problém však zůstává podobný: plynulá konverzace může vést
uživatele k přehnanému dojmu, že systém chápe, cítí nebo ví více, než je
skutečně doloženo.
2.94 Případová
studie: od ručních překladů k neuronovým modelům
Pravidlový překlad
Lingvisté a
programátoři vytvářeli slovníky a gramatická pravidla.
Statistický překlad
Systém se učil z
velkých souborů přeložených vět.
Neuronový překlad
Model zpracovával větu
jako celek a vytvářel plynulejší překlad.
Transformerový překlad
Mechanismus
pozornosti zlepšil práci s kontextem a delšími větami.
Multimodální překlad
Moderní systémy
mohou kombinovat text, řeč a obraz.
Vývoj překladu
ukazuje, že kvalitní výsledek vznikl kombinací:
·
dat;
·
výpočetního výkonu;
·
algoritmů;
·
jazykových znalostí;
·
lidského hodnocení.
2.95 Co historie AI
učí dnešní uživatele
Z
historie lze odvodit několik praktických zásad.
Nepřeceňovat ukázku
Úspěšná demonstrace v
omezeném prostředí nemusí znamenat spolehlivost v běžném provozu.
Rozlišovat úzkou a
obecnou schopnost
Výjimečný
výkon v jedné úloze neznamená univerzální inteligenci.
Kontrolovat marketingová
tvrzení
Firmy i
média mohou přehánět schopnosti nové technologie.
Hodnotit celý systém
Nestačí posoudit
pouze model. Důležitá jsou také data, lidé, procesy, zabezpečení a odpovědnost.
Počítat s údržbou
AI není jednorázově
dokončený výrobek. Modely i data je nutné aktualizovat a kontrolovat.
Zachovat lidský úsudek
Historie opakovaně
ukázala, že automatizace může selhat v nečekaných situacích.
2.96 Shrnutí kapitoly
Myšlenka umělých bytostí
je stará tisíce let, ale skutečné technické základy umělé inteligence vznikly
díky rozvoji matematiky, logiky a výpočetní techniky.
Mechanické kalkulátory
ukázaly, že část lidského výpočtu lze automatizovat. Charles Babbage navrhl
programovatelný analytický stroj a Ada Lovelace rozpoznala, že počítače mohou
pracovat i s jinými symboly než čísly.
George Boole vytvořil
matematickou logiku, Alan Turing popsal univerzální model výpočtu a formuloval
otázku, zda mohou stroje napodobit lidskou konverzaci.
V 50. letech vznikly
první programy řešící logické úlohy a roku 1956 byl na Dartmouth College
formálně založen obor umělé inteligence.
Rané systémy dosahovaly
působivých výsledků v omezených úlohách, ale nedokázaly pracovat se složitostí
skutečného světa. Přehnaná očekávání vedla k první AI zimě.
V 70. a 80. letech se
rozvíjely expertní systémy. Ty mohly být úspěšné v úzké odborné oblasti, ale
jejich pravidla byla náročná na tvorbu a údržbu. Po dalším období zklamání
přišla druhá AI zima.
Od 90. let se
prosazovalo statistické strojové učení. Rozvoj internetu přinesl velké množství
dat a růst výpočetního výkonu umožnil trénovat složitější modely.
Rok 2012 znamenal průlom
hlubokého učení v počítačovém vidění. Následovalo rychlé zlepšení rozpoznávání
řeči, překladu a dalších oblastí.
Architektura transformer
představená v roce 2017 umožnila efektivně trénovat velké jazykové modely. Ty
se staly základem současné generativní AI.
Historie AI je příběhem
střídání průlomů, přehnaných očekávání, zklamání a postupného praktického
pokroku. Jejím nejdůležitějším poučením je, že technický úspěch v testu ještě
nezaručuje bezpečné a spolehlivé fungování v reálném světě.
2.97 Slovníček pojmů
AI zima – období poklesu zájmu, financování a investic do umělé
inteligence.
AlexNet – hluboká konvoluční neuronová síť, která v roce 2012 výrazně
zlepšila výsledky v rozpoznávání obrazu.
Algoritmus zpětného
šíření chyby – metoda používaná k úpravě vah ve
vícevrstvých neuronových sítích.
AlphaGo – systém využívající hluboké učení a vyhledávání, který porazil
špičkového hráče hry Go.
Analytický stroj – návrh programovatelného mechanického počítače Charlese Babbage.
Bayesovská síť – model reprezentující pravděpodobnostní vztahy mezi proměnnými.
Booleova algebra – matematický systém logických operací s pravdivostními hodnotami.
Dartmouthská
konference – výzkumné setkání z roku 1956
považované za formální počátek oboru AI.
Deep Blue – šachový počítač IBM, který v roce 1997 porazil mistra světa
Garriho Kasparova.
DENDRAL – raný expertní systém určený k analýze chemických struktur.
Difuzní model – generativní model, který vytváří obsah postupným odstraňováním
šumu.
ELIZA – raný konverzační program založený na jednoduchých pravidlech a
klíčových slovech.
Efekt ELIZA – tendence přisuzovat počítačovému systému hlubší porozumění, než
jaké skutečně má.
Expertní systém – program využívající znalostní bázi a pravidla k napodobení
rozhodování odborníka.
GAN – generativní adversariální síť tvořená generátorem a
diskriminátorem.
General Problem Solver – raný program určený k řešení různých problémů pomocí obecných
strategií.
Hebbovo pravidlo – princip, podle kterého se spojení posiluje při společné aktivaci.
Heuristika – praktické pravidlo nebo odhad pomáhající rychleji najít řešení.
ImageNet – rozsáhlý obrazový datový soubor využívaný pro výzkum počítačového
vidění.
Lisp – programovací jazyk historicky významný pro symbolickou AI.
Logic Theorist – jeden z prvních programů AI, který dokazoval matematické věty.
Mechanismus pozornosti – matematický mechanismus umožňující modelu přikládat různou váhu
různým částem vstupu.
Mooreův zákon – historické pozorování dlouhodobého růstu počtu tranzistorů a
výpočetního výkonu.
MYCIN – raný medicínský expertní systém pro podporu diagnostiky infekcí.
Neuronový strojový
překlad – překlad založený na neuronových sítích.
Perceptron – jednoduchý učící se model umělého neuronu.
Posilované učení – metoda, při níž se agent učí z odměn a následků svých akcí.
Předtrénování – obecný trénink modelu na velkém množství dat před jeho
přizpůsobením konkrétním úlohám.
Rekurentní neuronová
síť – síť určená pro zpracování posloupností a
časově uspořádaných dat.
Reprezentační učení – schopnost modelu automaticky se učit vhodné vnitřní reprezentace
dat.
Sebepozornost – mechanismus transformeru pro vyhodnocení vztahů mezi částmi
jednoho vstupu.
Shakey – jeden z prvních mobilních robotů kombinujících vnímání, plánování
a pohyb.
SHRDLU – raný systém pro komunikaci a plánování v omezeném virtuálním
světě.
Statistické strojové
učení – přístup založený na datech,
pravděpodobnosti a odhadu modelů.
Symbolická AI – přístup založený na symbolech, logice a ručně vytvořených
pravidlech.
Transformer – architektura neuronové sítě založená na mechanismu pozornosti.
Turingův stroj – teoretický model výpočtu popsaný Alanem Turingem.
Turingův test – test založený na schopnosti stroje napodobit člověka v textové
konverzaci.
Učení z lidské zpětné
vazby – přizpůsobování modelu podle lidského
hodnocení jeho odpovědí.
Základní model – rozsáhlý předtrénovaný model použitelný pro široké spektrum úloh.
Znalostní báze – strukturovaný soubor faktů a pravidel používaný expertním
systémem.
2.98 Kontrolní otázky
1. Proč jsou starověké mýty o umělých bytostech relevantní pro historii
AI?
2. Jaký význam měly mechanické automaty?
3. Čím přispěli Pascal a Leibniz k vývoji výpočetní techniky?
4. Jaké části moderního počítače připomínal Babbageův analytický stroj?
5. Proč je Ada Lovelace považována za průkopnici programování?
6. Co je Booleova algebra?
7. Jaký význam měl Turingův stroj?
8. Co ukazuje problém zastavení?
9. Jak druhá světová válka urychlila vývoj počítačů?
10. Co je von Neumannova architektura?
11. Jak fungoval matematický neuron McCullocha a Pittse?
12. Co říká Hebbovo pravidlo?
13. Jak funguje Turingův test?
14. Proč Turingův test není úplným důkazem inteligence?
15. Jaký význam měl program Arthura Samuela?
16. Co dokázal Logic Theorist?
17. Proč je rok 1956 považován za počátek oboru AI?
18. Jaké byly hlavní cíle symbolické AI?
19. Co je stavový prostor?
20. Co je heuristika?
21. Jak funguje perceptron?
22. Proč rané systémy selhávaly v reálném světě?
23. Jak fungovala ELIZA?
24. Co označuje efekt ELIZA?
25. Proč byl SHRDLU úspěšný pouze v omezeném prostředí?
26. Co dokázal robot Shakey?
27. Jaké byly příčiny první AI zimy?
28. Co je expertní systém?
29. Jaký význam měly systémy DENDRAL a MYCIN?
30. Co je úzké hrdlo získávání znalostí?
31. Jaká byla hlavní omezení expertních systémů?
32. Proč nastala druhá AI zima?
33. Jaký význam má algoritmus zpětného šíření chyby?
34. Proč se v AI používají pravděpodobnostní metody?
35. Jak se statistické strojové učení liší od symbolické AI?
36. Jaký význam mělo vítězství Deep Blue?
37. Proč nebyl Deep Blue obecnou inteligencí?
38. Jak internet ovlivnil vývoj AI?
39. Proč jsou GPU vhodné pro hluboké učení?
40. Jaký význam měl datový soubor ImageNet?
41. Proč byl AlexNet průlomový?
42. Co je reprezentační učení?
43. Jak funguje mechanismus pozornosti?
44. Jaký význam mělo vítězství AlphaGo?
45. Co je posilované učení?
46. V čem se AlphaGo Zero lišil od původního AlphaGo?
47. Proč je transformer tak významný?
48. Co znamená předtrénování?
49. Co jsou vektorové reprezentace slov?
50. Co znamená zkratka GPT?
51. Co je učení z instrukcí?
52. Jak funguje učení z lidské zpětné vazby?
53. Co jsou multimodální modely?
54. Proč se generativní AI po roce 2022 tak rychle rozšířila?
55. Jaké hlavní poučení přinášejí období AI zimy?
56. Proč nelze úspěch v jedné úloze považovat za důkaz obecné
inteligence?
57. Jak se historicky měnil vztah mezi pravidly a daty?
58. Co je základní model?
59. Jaké nevýhody přináší škálování modelů?
60. Proč je při hodnocení dnešní AI užitečné znát její historii?
2.99 Praktická cvičení
Cvičení 1: Historická časová osa
Vytvořte vlastní časovou osu obsahující alespoň patnáct milníků.
U každého uveďte:
·
rok nebo období;
·
jméno osobnosti nebo systému;
·
stručný popis;
·
význam pro další vývoj;
·
zda šlo převážně o symbolický,
statistický nebo neuronový přístup.
Cvičení 2: Turingův test
Představte si, že máte připravit deset otázek pro Turingův test.
Otázky by měly prověřovat:
·
práci s kontextem;
·
humor;
·
zdravý rozum;
·
nejednoznačnost;
·
osobní zkušenost;
·
logické uvažování;
·
porozumění emocím;
·
schopnost přiznat nejistotu.
Poté vysvětlete, proč ani úspěšné odpovědi nemusí dokazovat skutečné
vědomí.
Cvičení 3:
Symbolická AI a strojové učení
Pro následující problémy rozhodněte, zda je vhodnější symbolický
přístup, strojové učení, nebo jejich kombinace:
1.
výpočet nároku na zákonnou
dávku podle přesných pravidel;
2.
rozpoznání vady pečiva z
fotografie;
3.
kontrola, zda faktura obsahuje
povinné údaje;
4.
předpověď množství prodaného
pečiva;
5.
plánování trasy ve skladu;
6.
vyhodnocení žádosti podle
zákonných i statistických kritérií;
7.
automatický překlad;
8.
konfigurace počítače podle
kompatibility součástí;
9.
rozpoznání podvodné transakce;
10. diagnostika závady podle pravidel a údajů ze senzorů.
Cvičení 4: Analýza AI zimy
Vyberte jednu z historických AI zim a zpracujte:
·
jaká očekávání jí předcházela;
·
které technologie byly
přeceňovány;
·
jaká omezení se projevila;
·
proč kleslo financování;
·
co z výzkumu přesto přežilo;
·
jaké poučení lze použít dnes.
Cvičení 5: ELIZA a
moderní chatbot
Porovnejte program ELIZA s moderním jazykovým modelem.
Zaměřte se na:
·
způsob vytváření odpovědí;
·
práci s kontextem;
·
rozsah znalostí;
·
schopnost generovat nový text;
·
míru porozumění;
·
riziko, že uživatel systému
připíše lidské vlastnosti.
Cvičení 6: Deep Blue a AlphaGo
Vytvořte tabulku porovnávající:
·
typ hry;
·
počet možných tahů;
·
použitý výpočetní přístup;
·
míru ručně vytvořených
znalostí;
·
využití strojového učení;
·
možnost samostatného tréninku;
·
přenos schopností do jiných
oblastí.
Cvičení 7: Od pravidel k datům
Vyberte jeden praktický problém, například:
·
třídění e-mailů;
·
odhad poptávky;
·
kontrolu kvality;
·
překlad;
·
doporučování filmů.
Popište, jak by se řešil:
1.
čistě pravidlovým systémem;
2.
statistickým strojovým učením;
3.
hlubokou neuronovou sítí;
4.
moderním základním modelem;
5.
hybridním systémem.
Cvičení 8: Přehnané předpovědi
Najděte příklad historické předpovědi o budoucnosti AI, která se
nenaplnila v očekávaném termínu.
Zhodnoťte:
·
kdo ji vyslovil;
·
z jakých tehdejších úspěchů
vycházela;
·
které překážky byly podceněny;
·
zda se část předpovědi později
přesto naplnila;
·
jak podobné chyby rozpoznat v
dnešních tvrzeních.
Cvičení 9: Vývoj
strojového překladu
Popište rozdíl mezi:
·
pravidlovým překladem;
·
statistickým překladem;
·
neuronovým překladem;
·
transformerovým překladem;
·
multimodálním překladem.
U každého přístupu uveďte jednu výhodu a jedno omezení.
Cvičení 10: Historický plakát
Navrhněte vzdělávací plakát s názvem „Od Babbage k generativní AI“.
Plakát by měl obsahovat:
·
hlavní osobnosti;
·
klíčové stroje;
·
obě AI zimy;
·
expertní systémy;
·
Deep Blue;
·
AlexNet;
·
AlphaGo;
·
transformer;
·
moderní generativní modely.
2.100 Řešení vybraných cvičení
Řešení cvičení 3
1.
Výpočet nároku podle zákona – převážně symbolický systém, protože pravidla musí přesně
odpovídat legislativě.
2.
Rozpoznání vady pečiva – strojové učení nebo hluboké učení, zejména počítačové vidění.
3.
Kontrola povinných údajů na
faktuře – kombinace pravidel, rozpoznání textu a
jazykového zpracování.
4.
Předpověď prodeje – statistické strojové učení.
5.
Plánování trasy ve skladu – algoritmické vyhledávání, optimalizace a případně strojové učení.
6.
Vyhodnocení žádosti – kombinace zákonných pravidel a statistického modelu, s lidskou
kontrolou.
7.
Automatický překlad – neuronový nebo transformerový model.
8.
Konfigurace počítače – symbolická pravidla kompatibility doplněná doporučovacím
systémem.
9.
Podvodná transakce – strojové učení a pravidla pro známé podvody.
10. Diagnostika závady – hybridní systém
spojující pravidla odborníků a model pracující se senzorovými daty.
Řešení cvičení 5
|
Vlastnost |
ELIZA |
Moderní jazykový model |
|
Základ odpovědi |
Klíčová slova a připravené vzory |
Pravděpodobnostní generování textu |
|
Kontext |
Velmi omezený |
Výrazně širší, ale stále omezený |
|
Znalosti |
Minimální |
Rozsáhlé vzory získané z tréninkových dat |
|
Nové formulace |
Omezené |
Velmi rozmanité |
|
Skutečné ověřování faktů |
Ne |
Ne automaticky, pokud není připojeno vyhledávání |
|
Riziko antropomorfizace |
Vysoké |
Ještě vyšší kvůli plynulosti |
|
Porozumění světu |
Velmi omezené |
Pokročilé statistické reprezentace, nikoli prokázané lidské
porozumění |
|
Schopnost plnit instrukce |
Velmi malá |
Vysoká u mnoha jazykových úloh |
Řešení cvičení 9
|
Přístup |
Princip |
Výhoda |
Omezení |
|
Pravidlový překlad |
Slovníky a gramatická pravidla |
Dobrá kontrola jednotlivých pravidel |
Nákladná tvorba a špatná práce s výjimkami |
|
Statistický překlad |
Pravděpodobnosti z paralelních textů |
Učí se z reálných překladů |
Často nepřirozené věty |
|
Neuronový překlad |
Neuronová reprezentace celé věty |
Plynulejší výstup |
Problémy s dlouhým kontextem |
|
Transformerový překlad |
Pozornost mezi částmi textu |
Lepší kontext a paralelní trénink |
Vysoké nároky na data a výkon |
|
Multimodální překlad |
Kombinace textu, zvuku a obrazu |
Využití širšího kontextu |
Složitější model a vyšší výpočetní náklady |
2.101 Úkol k zamyšlení
Představte si, že žijete
v roce 1965.
Počítače již dokážou:
·
hrát některé hry;
·
dokazovat matematické věty;
·
řešit jednoduché logické
problémy;
·
reagovat v textové konverzaci;
·
plánovat pohyb v omezeném
prostředí.
Měli byste dostatek
důvodů věřit, že obecná umělá inteligence vznikne během dvaceti let?
Zvažte:
·
jaké úspěchy by vás
přesvědčovaly;
·
která omezení by tehdy nebyla
zřejmá;
·
jak by malý laboratorní úspěch
mohl zkreslit očekávání;
·
zda dnes neděláme podobnou
chybu u generativní AI;
·
jaké důkazy by byly potřebné
pro tvrzení, že systém dosáhl obecné inteligence.
Historie AI ukazuje, že
technologický pokrok může být současně velmi rychlý i pomalejší, než se
očekává. Některé úlohy považované za obtížné byly vyřešeny překvapivě rychle,
zatímco zdánlivě samozřejmé lidské schopnosti zůstávají pro stroje velmi
náročné.
Žádné komentáře:
Okomentovat