A gépi tanulás és az emberi hibázás - mennyire lehetünk biztosak a robotok tudásában?
Szerző: Fizetett hirdetés | info@dehir.hu Közzétéve: 2023.08.16. 08:55 | Frissítve: 2023.08.18. 15:43
Mindenki, aki ember, hibázik. A bizonytalanság természetes velejárója az emberi létnek, azonban a mesterséges intelligencia már nem veszi ennyire könnyen a feladatot. (x)
A kutatók manapság olyan eszközökön dolgoznak, amelyekkel megtaníthatják a robotoknak, hogyan kezeljék a legemberibb tulajdonságot, a bizonytalanságot. Miközben a magyarországi fiatalok is sikeres eredményeket érnek el a robotika világában, úgy a nemzetközi egyetemek is azon dolgoznak, hogy minél modernebbé tegyék a robotok viselkedését.
A Cambridge-i Egyetem kutatói, a princetoni Alan Turing Intézet és a Google DeepMind összefogtak és egy közös célt tűztek ki: a bizonytalanságot beépíteni a mesterséges intelligencia alkalmazásokba, ahol az emberek és a gépek működnek együtt. Az eredményes kísérletekkel többek között csökkenthetők a kockázatok és javíthatók az ilyen alkalmazások megbízhatósága, különösen olyan területeken, ahol a biztonság kritikus szerepet játszik - például egy orvosi diagnózis meghatározása.
Vagyis: ha a ChatGPT-nek nincs információja egy adott kérdésről, a jelenlegi állapotában kitalálhat válaszokat, amelyek nem feltétlenül felelnek meg az igazságnak. Megkérdezhetjük, hogy milyen kaszinó bónuszok állnak jelenleg a rendelkezésre, de ha nincs biztos adat erről, akkor megadhat egy nem létező kódot csak azért, hogy a válaszra való igényt kielégítse.
A "Human-in-the-loop", vagyis az emberi visszajelzést bevonó gépi tanulási rendszereket gyakran ígéretes megoldásként említik, különösen olyan területeken, ahol az automatizált modellek egyedül nem képesek teljes munkát végezni. De felmerülhet a kérdés: mi van akkor, amikor az emberek bizonytalanok?
A Cambridge-i Egyetem kutatócsoportjának tagjai arra jutottak, hogy minél többet foglalkoznak a mesterséges intelligenciával, vagyis minél jobban megtanítják a bizonytalanság érzését, az AI annál könnyebben képes kezelni azt.
"A bizonytalanság központi szerepet játszik abban, hogy az emberek hogyan gondolkodnak a világról, de sok mesterséges intelligencia modell nem veszi ezt figyelembe" - nyilatkozta Katherine Collins, a Cambridge-i Műszaki Tanszék képviselője. "Sok fejlesztő dolgozik a gépi modellek bizonytalanságának kezelésén, de kevesebb munka történt az emberi bizonytalansághoz kötődő pontatlanságok területén.
Matthew Barker, a kutatás egyik társszerzője hozzátette: "A modellek újrahangolásához jobb eszközökre van szükségünk, hogy az emberek, akik velük dolgoznak, jelezni tudják, ha bizonytalanok (...) Bár a gépek teljes bizonyossággal képezhetők, az emberek gyakran nem képesek ezeknek a megfogalmazására, és a gépi tanulási modellek is nehezen kezelik ezt a bizonytalanságot."
A vizsgálat során a kutatók olyan adatokat vizsgáltak meg, amelyek többek között már ismertek a gépi tanulás terén: egyik az írott számjegyek, a másik mellkasröntgenek, a harmadik pedig madarak képeinek osztályozására szolgált.
Az első két adathalmaznál a kutatók bizonytalanságot szimuláltak, míg a madaras képek esetében a résztvevők teljesen biztosak voltak abban, hogy az állat piros vagy narancssárga. Ezek az emberi résztvevők által biztosított „puha címkék” lehetővé tették a kutatók számára, hogy megbizonyosodjanak: amikor a gépek tudását emberi bizonytalansággal társították, akkor romlott leginkább a végeredmény.
A kutatók szerint az ilyen fejlemények számos nyitott kérdést vetettek fel az emberek integrálása kapcsán. Az eredményeket természetesen nyilvánosságra hozzák, hogy további kutatásokat lehessen végezni, és a bizonytalanság beépítésének lehetőségei még jobban kifejlődhessenek a gépi tanulási rendszerekben.
"Ahogy néhány kollégánk olyan zseniálisan megfogalmazta, a bizonytalanság az átláthatóság egyik formája, és ez rendkívül fontos" - mondta Collins. "Ki kell találnunk, mikor bízhatunk egy modellben, és mikor bízhatunk egy emberben, és miért. Bizonyos alkalmazásokban a valószínűséget vizsgáljuk a lehetőségekhez képest. Különösen a chatbotok térnyerése miatt van szükségünk olyan modellekre, amelyek természetesebb, biztonságosabb élményhez vezethetnek".
Ki tudja, mire lesz még képes a robotika a jövőben: vajon olyan öncélú feladatokat is képes lesz ellátni, mint az ötöslottó számok megjóslása bizonyos kalkulációk alapján, vagy olyan kaszinó bónuszokat fog osztogatni mindenkinek, amelyek csak VIP tagoknak elérhető, esetleg sokkal nagyobb hatalmat ad a kezünkbe, mint amire még nem is számítunk? Mindenesetre a mesterséges intelligencia nagyon sok potenciált rejteget magában, és valószínűleg csak idő kérdése, hogy mikor robban be a köztudatba egy hihetetlen tudású mesterséges eszköz.