Ruskí vedci pochybujú, že umelej inteligencii možno bezpodmienečne dôverovať

Na poslednom Prezídiu Ruskej akadémie vied sa hovorilo o veľmi dôležitej téme, ktorá súvisí s technológiami umelej inteligencie. Vedci sa teda počas diskusie snažili pochopiť, ako veľmi môžete umelej inteligencii (AI) dôverovať a kde je hranica, po ktorej sa musí človek rozhodnúť sám.

Verte tomu alebo nie umelá inteligencia

Takže podľa prezidenta Ruskej akadémie vied A. Sergeeva, AI je takzvaná „čierna skrinka“, ktorej ani samotní tvorcovia úplne nerozumejú, ako funguje. A tak vzniká veľmi logická otázka: Je možné dôverovať záverom AI, ak nedokážeme vysledovať reťazec záverov, ktoré tento „stroj“ urobil?

V skutočnosti umelá inteligencia už robí pomerne veľké množstvo operácií lepšie a rýchlejšie ako ľudia.

A môže byť lákavé v zásade opustiť vedu, pretože odborník s priemernou kompetenciou môže stanoviť určité úlohy a prečítať odpovede z AI.

Ale iba v prípade úplnej a bezohľadnej dôvery v riešenia AI môžete získať veľmi skreslený obraz, ktorý môže byť dosť drahý.

Ide o to, že človek je príliš naklonený dôverovať technológiám, no s umelou inteligenciou je všetko oveľa komplikovanejšie. Ide o to, že ľudstvo stále nedokáže úplne vysvetliť, ako funguje ľudský mozog.

A rovnako tak nerozumieme tomu, ako funguje AI, ktorá je postavená analogicky s ľudským mozgom. Neurónové siete sú totiž založené na pomerne jednoduchej rovnici jedného neurónu.

Ale len v prípade, keď sa do práce zapojí napríklad 600 miliárd takýchto komponentov naraz, absolútne nikto s istotou nepovie, aké spojenia sa v neurónovej sieti vytvárajú.

Okrem toho vedci poznamenali, že s rozvojom neurónových sietí sa zisťuje stále viac nevýhod. Koniec koncov, na začiatku sa AI učí z miliónov rôznych príkladov.

Ale často, dokonca aj s miernou odchýlkou ​​od parametrov "naučených" počas tréningu, systém začne dávať nesprávne výsledky.

Takže dosť nápadným príkladom je neurónová sieť vytvorená IBM, účelovo vytvorená pre medicínske potreby. Ukázalo sa teda, že IBM AI robí diagnózy na úrovni celkom priemerného lekára. To znamená, že aj keď technológie AI umožňujú vytvárať inteligentné systémy, nie sú ani zďaleka dokonalé.

A na záver diskusie vedci dospeli k záveru, že vzhľadom na stále rastúci trend vo vývoji a využívaní umelej inteligencie je jednoducho potrebné vytvoriť určitý analóg GOST, ktorý umožní plne využívať AI až po tom, čo systém prejde celým radom kontrol a vedci sú presvedčení, že AI nebude fungovať chyby.

Napíšte do komentárov, ako vy osobne vnímate používanie AI v každodennom živote. Ak sa vám materiál páčil, ohodnoťte ho a nezabudnite sa prihlásiť na odber kanála. Ďakujem za tvoju pozornosť!