Óriási kockázatot rejt magában, ha valaki csupán a mesterséges intelligenciára hagyatkozik, anélkül hogy kritikusan szemlélne és értékelne.

Kétségkívül hasznos a mindennapokban is a mesterséges intelligencia, ugyanakkor a Mandinernek nyilatkozó szakértők arra figyelmeztetnek, nem szabad készpénznek venni a chatGPT válaszait. Kiemelten igaz ez a jogi és egészséggel kapcsolatos kérdéseknél, mivel ezek kiemelten összetett területek, meghaladják a nagy nyelvi modellek képességeit.

A népesség körülbelül 75%-a fordul a chatGPT-hez, amikor egészségügyi kérdések tisztázására van szüksége, ami a legelterjedtebb generatív mesterséges intelligencia alkalmazás a nagy nyelvi modellek között. A legfrissebb felmérések rámutatnak, hogy a válaszokat csupán a válaszadók 30-40%-a közelíti meg kritikus szemlélettel, míg a többség nincs tisztában azzal, hogy a program bizonyos esetekben pontatlan információkat is adhat.

Ez nem csupán az AI működésének gyengesége, hanem sok esetben a felhasználók által megfogalmazott kérdések vagy a hiányos információk miatt vezethet téves válaszokhoz a chatGPT. A Mandinernek nyilatkozó szakértők ezért hangsúlyozzák, hogy különösen érzékeny területeken, mint például a jog vagy az egészségügy, érdemes körültekintőnek lenni. Kérdésünkre rámutattak, hogy...

Rámutattak arra is, hogy jelenleg nincs olyan mesterséges intelligencia modell, amely teljes mértékben megbízható lenne. Ezért a mesterséges intelligencia nem képes a jogászok vagy orvosok szerepét átvenni, bár a jövőben ez a helyzet megváltozhat.

"Nagyon fontos, hogy a mesterséges intelligencia alapú alkalmazásokat komoly körültekintéssel használjuk és kezeljük, ugyanis akár az ingyenes, akár az előfizetéses verziók is jelentős hiányosságokat mutatnak. Az egyik veszélyes terület, amikor jogi tanácsadást várunk el tőlük, és vakon bízunk a kapott válaszban" - mutatott rá Szabó Imre Szilárd ügyvéd.

A Munkástanácsok Országos Szövetségének ügyvezető alelnöke szerint a ChatGPT legfrissebb verziója már olyan hatalmas adathalmazokkal dolgozik, amelyek lehetővé teszi, hogy egyre pontosabb válaszokat és információkat gyűjtsön össze. Ezért az egyszerűbb és viszonylag könnyen kezelhető szituációkban megfelelő, logikus és kifejezetten értelmesnek tűnő válaszokat adhat, fokozatosan növelve a felhasználó bizalmát.

A jogrendszer azonban olyan komplex, amelynek a teljes elemzésére, értelmezésére és a konkrét esetre vonatkozó helyes jogi tanácsadásra nem képes.

"Amennyiben a szerencse mellettünk áll, a rendszer képes lehet az aktuális jogszabályok felkutatására. Azonban az adott jogszabály keretein belül a kapcsolódó normák, összefüggések, kivételek, eltérési lehetőségek, valamint a háttérjogszabályok vagy az ítélkezési gyakorlat megfelelő kezelésére már nem alkalmas. Emellett fontos megemlíteni, hogy a jogszabályok mellett más online forrásokból is keresnek információkat, ami azt jelenti, hogy akár nem hitelesített, akár téves vagy hatálytalan állításokat tartalmazó cikkekből és blogbejegyzésekből merítenek. Ez pedig könnyen félrevezetheti a felhasználót. Egyetemi oktatóként ezt egyre gyakrabban tapasztalom, különösen a szakdolgozatok értékelése során" - hívta fel a figyelmet Szabó Imre Szilárd.

Előfordulhat, hogy két különböző eszközön ugyanazt a kérdést feltéve eltérő tanácsokat kapunk. A szoftver ugyanis az adott beszélgetésen belül képes figyelembe venni a korábban feltett kérdéseket, ami nagyban segíti a válaszadást. A működést az teszi hatékonyabbá, hogy képes kezelni a beszélgetés során a felismert mintázatokat - tette hozzá az ügyvéd.

"Ezek a természetes korlátok a chatGPT alkalmazását is megnehezítik az orvosi területen. Amikor egy beteg belép az orvos rendelőjébe, nem csupán a szavakra és a konkrét panaszokra figyel az orvos, hanem a páciens egészét, a testi-lelki állapotát is figyelembe veszi a vizsgálat során" - magyarázta Daróczy-Gaál Ágnes pszichiáter és jogász a Mandinernek.

- hangsúlyozta a szakember. A ChatGPT-t úgy alkották meg, hogy alapvetően felhasználóbarát legyen, de ne legyen a felhasználó számára túl sok. Ha a felhasználó beír egy tünetet, és megkérdezi, milyen betegségekre utalhat, a program válaszul felsorolja, mik a lehetőségek, azonban nem kezd el differenciáldiagnosztikai szempontból lényeges kérdéseket feltenni a tőle kérdező páciensnek. Mindössze elmondja, hogy a felsorolt tünetek milyen betegségekben szokott előfordulni.

Daróczy-Gaál Ágnes saját tapasztalatait megosztva így fogalmazott: "Személyesen is kipróbáltam a generatív AI-t, különböző páciensek által bemutatott tünetek, kórképek és vizsgálati eredmények alapján. Azonban azt tapasztaltam, hogy a válaszok nem voltak következetesek. Amikor a kérdések során egyes tünetekre nagyobb figyelmet fordítottam, a diagnózis teljesen más irányba terelődött, mintha a rendszer más betegséget azonosított volna." Éppen ezért továbbra is azt javasolja, hogy...

Daróczy-Gaál Ágnes megjegyezte, hogy az átlagos ember számára vonzó lehetőség, hogy a ChatGPT segítségével azonnali választ kapjon egészségügyi kérdéseire, anélkül, hogy orvosi konzultációra kellene várnia. Azonban hangsúlyozta, hogy ha komolyabb egészségügyi problémákról van szó, akkor mindenképpen érdemes szakemberhez fordulni, hiszen az alapszintű tájékozódás nem helyettesítheti a szakszerű orvosi véleményt.