Viděla jsem ex machina a pořád mi to nepřijde jako něco, co bych mohla zažít 🙂
Jo, jenže GO je hra ve stabilním prostředí neovlivněná nekonečným počtem proměnných. Má daná pravidla, ze kterých se nelze odchýlit. To je umělé prostředí. Pro ilustraci těch možností ale moc pěkný příklad. Možná jednou…. ale ne za mého života.
Co se týče vnější manipulace člověkem, to je samozřejmě platná hypotéza, a s tím souhlasím, UI je zneužitelná, jako každý jiný nástroj, na to holt bude potřeba dávat pozor, a stejně jako se UI dá využít k manipulaci, bude se dát využít i k odhalování zásahů UI do marketingu, obchodu, atd. A za tou manipulací bude zase stát člověk. Lidi jsou náhodou velmi snadno manipulovatelní, viz kapsáři nebo iluzionisti.
Problém asi bude matroš na mikročipy a další součástky. Jestli naše Zemské zdroje vůbec umožní takový rozsah elektroniky. A těch továren, co by muselo stát, a ta eko stopa (u elektroniky a potřebných kovů jedna z nejvyšších)…
My se ale bavíme o budoucnosti. To, že dnes stroje něco neumí, neznamená, že to nebudou umět v budoucnu. A víme spolehlivě, že to dnes neumí? Víte v jakém stadiu je vývoj kdekoliv na světě?
Když ten vývoj kdekoli na světě není zajímavý, protože ten se odehrává v nějaké laborce, kde právě vychytávají chyby a odlaďují problémy.
Zatím jak někdo podotknul ten robopéf neumí ani projít bez problému přes silnici, tak to s tou UI nebude zatím zase takovej horkej brambor. Ani v tej válce se ta UI samostatně nenasazuje, a nemám ještě zprávy o tom, že by řídila zatýkání v Číně.
Ale pořád se to bude pohybovat v intencích lidského chápání světa, protože nic jiného nebude mít k dispozici. Bude to třeba divný člověk, ale bude to pořád člověk, protože se učí od lidí a z jejich názorů. Je to (psala Megí?) jen statistické rozhraní. Sesbírá data a vyflusne statistiku těch dat. No a když mezi daty bude několik velmi odlehlých informací, celou statistiku nám to vychýlí mimo normál, logicky.
Přemítám, zda by nebylo lepší spustit několik umělých inteligencí, třeba národních, které by čerpaly z národních análů. A následně by zasedly okolo kulatého stolu a daly hlavy dohromady - a výsledky by byly průnikem jejich dílčích vyhodnocení. Si myslím, že to by mohlo dát lepší výsledek. No prostě OSN, žejo. Každá umělá osoba by byla vychýlená drobně nějakým směrem, a průměr by mohl dát více průměrný (všeobecně přijatelný) výsledek.
Proto je taky dneska zvěř vysoká přemnožená (lesůch jak naděláno, ale hospodaření v nich mizerné) a zvěř polní vychcípaná (polí poskrovnu, a když už, tak je to nekonečný pustý lán podél dálnice).
Remízky byly donedávna posledními enklávami výskytu té drobotiny, proto se po nich tak skáče, ale ve skutečnosti to byla pestrá krajina, která jim vyhovovala. Tu potůček, návesní rybníček - a nikoli zatrubněná meliorace a vybetonovaná stoka. Tu políčko tam vojtěška - tu vrbina tam rákos, a nikoli dvakrát ročně sekaný trvalý travní porost osetý 4 druhy travin. Tu brambory, tam dýně, tu slepice, tam kozičky, tu sad jabloní, tam alej kaštanů a nikoli anglický trávník, skleník, bazén, garáž, dětské hřiště s umělým povrchem.
Vy jste strašně antropocentrická. Si tu AI představte jako mimozemšťana s tím, že má všechno odlišné od lidí. I ty emoce, cíle a zájmy, to pak bude blíž pravdě.
Jenže tu UI vytváří člověk. Na základě logiky člověka. Je to naprogramované. Má naprogramováno, JAK má myslet, JAK se má učit.
Pokud, jak píše Leithian, se někdy vymaní UI z osidel naší binární technologie, tak si umím představit, že tam vznikne něco jiného. Ale to zatím není na pořadu dne.
A pokud si představíme UI jako “něco jiného”, proč by tomu měly být vlastní naše antropocentrické starosti jako kdo nás ovládne a kdo nám co sebere a kdo nás zabije? Ono to “něco jiného” bude mít právě motivace a emoce naprosto odtržené od naší reality, takže se to dost možná námi ani nebude zabývat.
Doporucuju precist par asimovek nebo aspon shlednout ja robot. Je tam spousta kravin ale i par veci k zamysleni.
Četla jsem i viděla. Schopnosti robotů popisovaných tam se na hony vzdalují od současnosti. A pořád tam stejně figuruje “člověk naprogramoval”. A ano, myslím si, že umělá mysl bude vždy vázána na fyzický základ a nebude se moci rozvíjet dál než do nul a jedniček. Třeba budou v budoucnu technologie, které umožní další krok, ale prozatím ten počítač nic jiného neumí, a to, co provede umělá inteligence, je založeno stále ještě na logickém základě. Na rozdíl od emocí.
Naše slepice oves rády. Kradou ho zpod rypáků koním při krmení a pak ho vyzobávají i z bobků. Přirozený příkrm. Proto pro slepice kupuji pouze pšenku (a nosnicové granule), zbytek si nasbírají 🙂
Moje slepice mají neomezený přístup ven si nazobat, co libo, a pšenici i granule normálně jedí. Kdybych jim dávala šrot, budou jíst šrot. Měla jsem pro kuřice šrotovanou směs z velkochovu, a jak si všechny dámy šmakovaly 🙂 Ono “nazobat si venku” není pro produkční slepici prostě dost energie na produkci vajec.
Emotivní reakci na něco lze naučit, ale ten prožitek, co je za tou reakcí, naučit nejde. To se získává na základě zkušenosti, a tu ten robot prostě mít nebude, nemá jak. Mám taky naučené emoce, umím se tvářit společensky přijatelně radostně, když si někdo pořídí koně, a přitom vnitřně zuřit, protože vím, že takový člověk se o něj nedokáže postarat 🙂
Mno já se toho nebojím a na výsledek si ráda počkám, podle toho, jak lidstvo postupuje, bude tady mrtvo vč. zvířat a kytek dřív, než s UI vůbec stihne rozkoukat. Dost možná nám ještě UI zachrání v poslední minutě pr**l 😂
Kdyby zvířata neměla ego, nebudou vůdci tlup a smeček. Ego je to co nás posouvá k přežití
Ale zvíře k vedení smečky nebo tlupy nevede ego. Anébrž prostá touha po přežití. Prostě ten jedinec, co má nejvíc síly a dokáže to, je pro smečku nejlepší volba pro přežití. Ten, co umí najít nejvíc jídla, je hoden následování. On si neřekne “a teď půjdete všichni se mnou, páč já chci”. On si řekne “teď jdu támhle, páč si myslím, že tam dozrávají banány”, a všichni řeknou “hele, Franta jde támhle, asi něco ví, jdeme za ním, třeba nám něco kápne”.
Zajímá mě, jestli se dají naučit emoce… málo platné, hrají tam roli hormony, reflexy a podobné naprosto fyziologické mechanismy. Emoce se teda dají naučit na základě těch fyziologických mechanismů - tedy ty, které jsou programovatelné, dají se přiřadit i špatně (třeba místo empatie, sympatie můžeme vyvolat apatii nebo antipatii). Ale co s těmi, které máme naprogramované od přírody? Například pocit spokojenosti po nasycení. Neumím si představit, jak počítač pocítí uspokojení po získání nových informací třeba. Pocit stresu při bolestivém podnětu, strachu z poškození, z eliminace - jak tohle vysvětlit UI? A když bude umět UI pocítit strach z vlastní eliminace, nebude tím pádem umět i empaticky vnímat strach člověka z jeho eliminace? Proč automaticky předpokládáme, že UI bude psychopat?
Pořád tam postrádám ten důvod, proč by chtěla UI ovládat ten život. Nebo ty lidi. Nebo vyhladit.
Padla eliminace chyb. Ano, pokud to tak naprogramujeme, bude se toho snažit dosáhnout, ale eliminace chyb přeci neznamená vypálit planetu (chyba je i počasí nebo plevel v záhoně). Ta UI nejprve vyhodnotí, které chyby je třeba eliminovat, a pak člověk rozhodne, zda a jak se to učiní, a dá nebo nedá té UI k tomu nástroje.
Já to neumím dobře vyjádřit, ale přijde mi, že pokud k nadvládě umělé inteligence nad člověkem dojde, vůbec nemáme šanci to postřehnout. Kdyby, čistě teoreticky k něčemu podobnému došlo, jak bychom to vlastně poznali?
Spíš to bude tak, že UI bude řídit většinu procesů v lidské společnosti. Třeba efektivní načasování hromadné dopravy, řízení osvětlení ulic, distribuci léků, potravin, energií třeba ve světě (v daleké budoucnosti), řešení přírodních katastrof, a tím bude určovat jistým způsobem běh lidského života. A kdo bude chtít “vypadnout ze systému”, bude to mít strašlivě těžké a bude málo míst na Zemi, kde to půjde. No umím si představit, že prospěch většiny bude pro určitou menšinu k nežití.
