M.I.-k, LLM-ek – Mik azok, és hogyan működnek?

Gyakran hallhatjuk mindennapi beszélgetésekben és akár hivatalos forrásokból is, hogy olyan eszközöket, mint a ChatGPT, Claude, Gemini, Co-pilot, DeepSeek, stb. mesterséges intelligenciáknak hívnak. Bár ez mára teljesen beivódott a köztudatba, a helyes kifejezés valójában az LLM – Large Language Model, vagyis nagy nyelvi modell – amely az M.I.-nek nevezett chatbotok alapját adja.

De mit jelent ez pontosan? A nagy nyelvi modellek rengeteg bonyolult paraméter alapján működnek, és cikkünknek nem célja pontos, technikai magyarázatot szolgáltatni róluk. A következőkben egy egyszerű, de megbízható, felhasználói-szintű képet igyekszünk átadni.

Az LLM-ek alapvetően valószínűségszámítás alapján fűznek össze egymás után szavakat és szórészleteket. Ezeket az utóbbiakat tokeneknek nevezzük. Egy token lehet egy önálló szó, egy rag, végződés, előtag, stb. Hogy egy adott szöveg hány tokenből épül fel, az nagyban függ az adott nyelvtől és a szöveg tartalmától – az angolban átlagosan egy token körülbelül 2/3 szónak felel meg. Az LLM-ek nem valós szavakban vagy mondatokban gondolkoznak, hanem ilyen tokeneket fűznek egymás után.

Egy szöveg megalkotásakor az LLM-ek figyelembe veszik az addig rendelkezésükre álló kontextust (például egy velük folytatott beszélgetést, előre megadott instrukciókat, stb.) majd számítást végeznek, hogy egy szöveg mekkora eséllyel milyen tokennel folytatódna. Ezután megadott paraméterek alapján választanak egyet a legvalószínűbb lehetőségekből, majd tovább haladnak. Példának okáért, ha egy jól beállított LLM találkozik a “Karambolt szenvedett a __” mondatkezdéssel, valószínű folytatásnak fogja találni például a repülőgép, kamion, teherautó és vonat szavakat, és ezek közül fog választani egyet. Hogy mekkora eséllyel választja a legvalószínűbb jelöltet, mennyit kísérletezik a kevésbé favorizáltakkal, az a fejlesztő beállításain múlik.

De mi adja ezeknek a számításoknak az alapjait? Egy LLM megalkotásának egyik első és legfontosabb lépése a modell képzése. Ebben a stádiumban hatalmas mennyiségű szöveget táplálnak be a programba – legyen szó cikkekről, könyvekről, weboldalakról, filmek forgatókönyveiről, bármiről. Ez egy hosszas és erőforrásigényes folyamat, akár hónapokig is tarthat és hatalmas mennyiségű feldolgozási teljesítményt vesz igénybe. Ezalatt az LLM, a rendelkezésére álló tömérdek példából kiindulva, megtanulja melyik szavak melyikekhez állnak közel, milyen viszonyban jelennek meg egymáshoz képest, hogyan követik egymást mondatokban, stb.

Amikor végfelhasználókként mi “beszélgetünk” egy LLM-alapú chatbottal, az ezeket a mintázokat, összefüggéseket fogja keresni, felismerni, és valószínű válaszokat kiszámítani. Ebből láthatjuk, hogy a kifejezés népszerűsége ellenére, nem beszélünk „valódi” mesterséges intelligenciáról: egy LLM nem gondolkozik, vagy “ért meg” dolgokat a szó hagyományos értelmében. Nem formál véleményeket, vagy ellenőriz adatokat – pusztán egy hatalmas képzési adathalmaz és nyelvi tényezők alapján igyekszik az adott helyzetben legvalószínűbb kifejezéseket, mondatokat, bekezdéseket válaszolni.

Biztosan találkoztunk már telefonunkon autocomplete funkcióval, amely, miután elkezdünk megírni egy mondatot, javaslatokat dob fel, hogy azt milyen szóval folytassuk. Képzeljük el ilyen elvek mentén az LLM-ek működését, ahol az általunk megírt kérés vagy kérdés működik hasonlóan a megkezdett mondathoz. A chatbot, egy autocomplete-funkcióhoz hasonlóan, csak azt próbálja kitalálni, mivel kellene folytatódnia a szövegnek. A különbség a mérték, hiszen egy LLM nem csak egy-egy kifejezést, hanem egész mondatokat, bekezdéseket, esszéket tud generálni.

Az LLM-ek fejlődéséről röviden

Az átlagos felhasználó számára az LLM-alapú chatbotok megjelenése egy hirtelen, váratlan jelenségnek tűnhet – átlagemberként jóformán hasonlót sem láttunk, aztán 2022 környékén hirtelen mindenhonnan ezekről kezdtünk hallani. Az idevezető út azonban sok apró, fokozatos innovációból állt, amelynek mi csak a végeredményét látjuk. A következőkben erről a folyamatról szeretnénk egy nagyjábóli, közel sem kimerítő képet adni.

Az elektromos számítógépek korai napjaitól fogva próbálkozunk, hogy egyre nagyobb autonómiát biztosíthassunk nekik biztonságosan, egyre több feladat önálló elvégzésére készítsük fel őket. A tanulásra képes számítógépek létrehozását irányzó első ígéretes kísérletekre, és a mai napig meghatározó alapelvek lefektetésére az 1950-es és 1960-as években került sor. Ennek egyik korai gyakorlati példája a Raytheon által a ‘60-as évek elején fejlesztett Cybertron K-100 – ez egy lyukszalagos rendszer volt, amelyet szonárjelek azonosítására terveztek. Akkori mértékkel jelentős mennyiségű adatot tápláltak be a rendszerbe, majd egy egyszerű “tévedés” gombbal képezték, amikor a rendszer hibásan azonosított egy jelet.

Technikai korlátok miatt a gépi tanulás gyakorlati felhasználása csak az 1980-as és 1990-es években kezdett igazán fejlődni. A tudományág és a rendelkezésre álló hardver egyidejű fejlődésével ebben az időszakban jelentek komolyabb teljesítményű tanuló programok, elsősorban szakmai és tudományos környezetben, nagy adattömbök feldolgozására. Rengeteg alapvető technika tökéletesítésére és fájdalmas lecke megtanulására ekkor került sor.

A mindennapi felhasználók számára is elérhető LLM-ek felé tett legnagyobb lépésekre a 2010-es években került sor. Ekkor, a hardverek ismételt fejlődésével, praktikussá vált az ú.n. mélytanulás folyamata. Ennek lényege, hogy a betáplált adatot a rendszer több különálló lépcsőben, fokozódó absztrakcióval dolgozza fel.

Hogy egy leegyszerűsített példával szemléltessük: ha beküldünk egy képet egy rókáról egy mélytanuló képfelismerő programba, először nyers pixeleket lát. Ezután felismeri az alapvető formákat, vonalakat, görbéket és köröket. Egy következő lépcsőben ezekből összetett geometriai formákat alkot, majd az egyes részletekből (fülek, orr, farok) azonosítja az objektumot. Végül a rendszer felismeri, hogy rókáról van szó, és átadja az információt a felhasználónak. (A valódi folyamat ennél természetesen sokkal bonyolultabb, a példánk csak az elvet hivatott szemléltetni.)

Ez a módszer nagy fokú rugalmasságot biztosít, és a gép magától fejleszti saját paramétereit a különböző lépcsőkön.

A 2010-es évek végén ezzel a technológiával jelentek meg egyre fejlettebb arcfelismerő, illetve kép- és videógeneráló szoftverek. Ezzel egyidejűleg a hardver fejlődésének köszönhetően nagyobb adattárak feldolgozása vált lehetővé, kiterjesztve a programok számára elérhető tanulási anyagot. Ahogy korábban említettük, egy LLM képzése sok időt és hatalmas erőforrásokat emészt fel – a múlt évtizedben pontosan ezek az erőforrások váltak elérhetővé.

A ChatGPT első publikus verzióját 2022-ben tették elérhetővé. Sikerét jelentős részben annak köszönheti, hogy a korábbi programokkal ellentétben kimondottan hétköznapi felhasználók számára készült, egy nevetségesen egyszerű, online chat-ablakra emlékeztető kezelőfelülettel. Legnagyobb újítása nem egy hallatlan, ugrásszerű technikai fejlődés volt, hanem az, hogy az elmúlt évtizedek vívmányait könnyen elérhetővé tette az átlagember számára.

Hogyan és mire használhatóak az LLM-ek?

Most, hogy áttekintettük az LLM-ek működési elveit és hátterüket, térjünk át arra, hogy valójában mire is használhatjuk őket.

Mindenek előtt javasoljuk olvasóinknak, hogy az eszközökre hatékony segítségként, és ne pótlásként tekintsenek – ahogy arra a későbbiekben ki is fogunk térni, bármennyire hasznosak is az LLM-alapú eszközök, természetük számos korlátozáshoz és hibalehetőséghez vezet, így az általuk kiadott végtermékek továbbra is emberi felügyeletet igényelnek.

Mindennapi felhasználás

Az LLM-alapú chatbotok legnagyobb erőssége az, hogy valóban “beszélgethetünk” velük, koherens, nyelvtanilag és tartalmilag helyes válaszokat tudnak produkálni. Így nem kell messzire mennünk, hiszen már ezzel segítségünkre lehetnek unalmas, időigényes, frusztráló mindennapi feladatokban. Ha szöveget kell írnunk, legyen szó egy hosszas levélről, e-mailről, vagy akár egy cikkről vagy bejegyzésről, akkor saját szavainkkal, megkötések nélkül és szabadon fogalmazva adhatunk instrukciókat egy chatbotnak, amely azokat egész megbízhatóan fogja követni, nekünk pedig csak finomítanunk kell az eredményen.

Hasonlóképpen hasznos lehet, ha át kell írnunk valamilyen szöveget – például nem vagyunk elégedettek egy megfogalmazással, valami túl hivatalos, vagy túl lazának hangzik. Hasonlóképpen sok időt spórolhatunk ezzel az átellenes oldalról is – van egy érdekesnek ígérkező cikk, amit viszont nincs időnk elolvasni? Másoljuk be egy LLM-alapú chatbotba, és kérjük meg, hogy foglalja össze.

Az LLM-ek egyik leggyakoribb felhasználási módja nem más, mint fordítások készítése. Ez ismételten kimondottan az eszköz erősségei közé tartozik, hiszen lényegében annyit kell tennie, hogy egy szöveget beolvas, értelmez, majd – immár más nyelven – kellő pontossággal összefoglal. Ez sokszor gyorsabb és kényelmesebb megoldás, mint sorról sorra átrágni magunkat egy hagyományos fordítószoftver robotikus tükörfordításain, vagy szótárral görnyedni egy cikk fölött.

A chatbotok sokszor abban is segítségünkre lehetnek, hogy mi magunk jobban gondolkodjunk. Ha megakadunk valamilyen ötletelésben, segíthet, ha “beszélgetünk” egy chatbottal. Egyrészt magától is mondhat számunkra hasznos ötleteket, másrészt viszont már az is hasznos lehet magában, hogy van kivel együtt gondolkoznunk – épp úgy, mintha egy emberrel beszélnénk át egy témát. Visszakérdezéssel, más megfogalmazással, apró javaslatokkal segíthet benne, hogy mi magunk jussunk el a megoldáshoz. Az LLM-ek képzési anyagának kiterjedése miatt pedig kevés olyan téma lesz, amihez egy ilyen bot ne tudna hozzászólni.

Fontos észben tartanunk azonban, hogy nem egy emberrel beszélünk – ne vegyünk semmit készpénznek, amit egy chatbottól kapunk, semmit ne másoljunk át, vagy használjunk ellenőrzés nélkül. Tekintsünk rá inkább egy kezdő asszisztensként, aki sok terhet levehet a vállunkról, de akinek mindig ellenőrizni kell a munkáját.

Szakmai és technikai felhasználás

Az LLM-ek, főleg a megbízhatóbb prémium szolgáltatások integrálása a munkában is a segítségünkre lehet.

Amennyiben munkánk akár érintőlegesen is kötődik az informatikához, biztosan hallottunk már mind dicshimnuszokat, mind rémhíreket az LLM-ekkel kapcsolatban. Igazság mindkettőben van. Egyrészt, lenyűgöző, hogy egyszerűbb esetekben még a nem erre a célra készült, ingyenesen elérhető chatbotok (ChatGPT, DeepSeek, Gemini, stb.) is milyen gyorsan tudnak működőképes kódot írni. A kimondottan erre kialakított, prémium szolgáltatások (pl. a Claude bizonyos csomagjai) komoly szakemberek számára is hasznos eszközöknek bizonyulnak. Másrészt, elrémisztő, hogy az LLM-eket egyes fejlesztők milyen felelőtlenül és bármiféle körültekintés nélkül használják, ami legjobb esetben hanyag, tökéletlen fejlesztésekhez, rosszabb esetben katasztrofális hibákhoz, leállásokhoz, biztonsági résekhez, ügyfelek adatainak kiszivárgásához vezethet.

Amit ebben a témában is fontos szem előtt tartanuk az az, hogy egy LLM nem “gondolkozik” ténylegesen. Nem ellenőriz hibákat, nem tud körültekintéssel eljárni, csak általa valószínűnek tartott megoldásokat képes visszadobni nekünk. Így létfontosságú ellenőrizni bármilyen általa írt kódot, a fejlesztőnek kell róla meggyőződnie, hogy az tiszta, hatékony és biztonságos. Egy komoly biztonsági rés betömése bizonyos esetekben pusztán annyiba kerül, hogy átnézzük az első próbálkozásra visszakapott kódot, és megmondjuk az eszköznek, hogy írja bele a megfelelő biztonsági funkciókat – problémák leginkább akkor alakulnak ki, ha egy fejlesztő ennyire is lusta.

Azonban LLM-ek használata mind tanácsadással, mind egyszerű, de időigényes, hosszú kódrészletek megírásával rengeteg időt spórolhat meg nekünk, felmerülő hibák esetén pedig hasznos tanácsokat és tippeket kaphatunk, hogy ne a sötétben tapogatózva kelljen kiindulnunk.

A mindennapi felhasználásoknál már megemlítettük, hogy az LLM-ek kimondott erőssége nagy adathalmazok és szöveges anyagok elemzése és feldolgozása – ez a munkában is hasznos lehet. Ha például jelentős számú szöveges visszajelzésen kell átrágnunk magunkat, egy LLM segíthet nekünk azok rendszerezésében és összefoglalásában. Ahogy más témákban is javasoltuk, itt se bízzunk meg teljesen és maradéktalanul abban, amit visszakapunk. Használjuk segédeszköznek, ami megkönnyíti a munkánkat, rámutat bizonyos fontos részletekre, elvégez egy alapvető kategorizálást, de ne próbáljuk kivonni magunkat a munkafolyamatból.

Ahogy a szövegek értelmezésében, úgy azok megfogalmazásában is hasznunkra lehet egy LLM. Ha meg kell írnunk egy hosszas dokumentációt, egy útmutatót, vagy termékleírást, sok nehézkes, monoton munkától menthet meg minket. A korábbiakhoz hasonlóképpen, ne várjunk tőle pontos konkrétumokat – ha egy termékhez készítünk útmutatót, vagy leírást, mindig ellenőrizzük a visszakapott anyagban a konkrét paramétereket és az információkat. Mégis rengeteg időt spórolhatunk meg azzal, ha nem nekünk kell megfogalmazni minden egyes mondatot, figyelnünk a szöveg teljes nyelvtani helyességére, stb. – egy LLM lehetővé teszi, hogy a munka unalmas és monoton részét részben átruházzuk rá, miközben mi azzal foglalkozunk, amiben valóban szükség van a szaktudásunkra.

Mire nem jó egy LLM – korlátok és kockázatok

Legyenek bármennyire lenyűgöző, hasznos és rugalmas eszközök, mindig fontos fejben tartanunk az LLM-ek hiányosságait. A ChatGPT-hez hasonló eszközöket övező félreértés, csalódás, hiba és botrány közül rengeteg hibás használatból, irreális elvárásokból és működésük félreértéséből fakad. A fejezetben tartsuk végig fejben azt, amit az LLM-ek működési alapelveivel kapcsolatban leírtunk – ezek nem valódi érző, gondolkodó gépek, bármennyire is tudjanak hihetően beszélgetést utánozni.
Az LLM-ek legfontosabb korlátja, és talán kiirthatatlan problémája, hogy néha egyszerűen megtévesztő, vagy teljesen kitalált információkat adnak vissza – erre a jelenségre köznyelvben “hallucinálásként” szokás hivatkozni. Az ok nagyon egyszerű, és nehéz hibának nevezni, mivel működésük alapelvéből származik. A válaszok megfogalmazásakor, ahogy cikkünkben többször kitértünk rá, egy LLM nem “emlékezik” eltárolt tényekre, vagy keres visszaigazolható adatokat, hanem olyan szavakat és szórészeket tesz egymás után, amelyek az adatai szerint abban a helyzetben elhangoznának. Ezt fejben tartva lenyűgöző, hogy ennek ellenére gyakran milyen pontos információkkal tudnak szolgálni ezek az eszközök. Így, ha konkrét válaszra van szükségünk valamivel kapcsolatban, mindig ellenőrizzük az LLM-et, hiszen bármikor hallucinálhat.

Legyen szó egy történelmi esemény évszámáról, egy politikus idézeteinek hitelességéről, közgazdasági adatokról, vagy éppen egy online rendszerben elérhető funkcióról, konkrét tények esetén a valószínű válasz nem elégséges. Hogy egy leegyszerűsített példával éljünk: az, hogy a ChatGPT nekünk azt fogalmazza meg, hogy II. Lajos király a mohácsi “csatában”, a mohácsi “csata közben”, vagy a mohácsi “csata folyamán” halt meg, teljesen mindegy, itt bármelyik valószínű lehetőség megfelel. Az, hogy a mohácsi csatára “1526-ban” vagy “1626-ban” került sor, viszont egyáltalán nem mindegy – az LLM számára viszont mindkettő csak egy-egy token. Ha az utóbbi esetben talál egy lehetőséget, amely megüti a valószínűség küszöbét, akkor máris hamis adatot adhat meg.

Ez a fenyegetés kiváltképpen fennáll keveset kutatott, vagy vitatott témákban, ahol a képzési anyag hiánya, vagy ellentmondásai miatt a pontos adatok nincsenek túlnyomó többségben a potenciálisan hibásokkal szemben.

Ehhez kötődő probléma, hogy az LLM-ek nagyon gyakran teljes magabiztossággal jelentik ki ezeket a hamis információkat. Ismételten, egy emberrel ellentétben nem “tudják”, hogy bizonytalanok egy információban – egy mondat pont ugyanolyan szépen megfogalmazott és magabiztos marad attól, hogy a közepében egy kulcsfontosságú szó megváltozik.

Hasonló probléma az, hogy egy LLM nem tudja túlnőni a tanuláshoz rendelkezésére bocsátott anyagokat. Ennek következtében tükrözhet olyan előítéleteket és elfogultságokat, amelyek a képzésére használt adatokban szerepeltek. Példának okáért egy vitatott tudományos témában egy LLM nem tudja követni a szakirodalom pillanatnyi állását, a legfrissebb szakirodalmakat, és ezek alapján reális, kiegyensúlyozott állást foglalni – a korábbiakhoz hasonlóan a képzési adataira fog hagyatkozni. Ennek következtében teljesen elképzelhető, hogy bizonyos esetekben a vita egyik, aztán másik oldalán fog állást foglalni, vagy hogy új, általánosan elfogadottá vált, de a rendelkezésre álló adatokban még alig szereplő tényeket elutasít.

Ezért fontos, hogy egy LLM-re sose tekintsünk megbízható forrásként konkrét tényekkel kapcsolatban, kiváltképp ha ezekre alapozva akarunk komoly, például jogi, pénzügyi, vagy egészségügyi döntéseket hozni. Ilyen kérdésekben mindig a valódi szakértőkre hallgassunk, ne arra, amit egy nagyon fejlett csevegő-szoftver valószínűnek tart.

Az LLM-ek hasznos eszközök, de soha ne tekintsünk rájuk objektív igazságok forrásaiként. Használjuk őket arra, amire készültek – beszélgetésre, szövegek összefoglalására, fogalmazására, és értelmezésére, de mindig ellenőrizzük, hogy nem közölnek-e velünk hamis tényeket.

Kell foglalkoznunk az LLM-ekkel?

Úgy gondoljuk mára mindenkinek egyértelmű, hogy az LLM-alapú eszközök nem csak egy pillanatnyi divathullám részei, vagy egzotikus technikai kuriózumok. Tetszik vagy sem, egyre inkább a digitális világ és mindennapi életünk szerves részeivé válnak, legyen szó irodai szoftverekről, böngészőkről vagy ügyfélszolgálati eszközökről. Működési elveik megértése már nem egy elvont tudományos téma mérnökök és kutatók számára, hanem az alapvető digitális műveltség része.

Könnyen elképzelhető, hogy a konkrét cégek, nevek és termékek változni fognak. Azonban az LLM-ek, alapvető eszközökként, már ezalatt a rövid idő alatt is mélyen beépültek a digitális világ működésébe, és változtatták meg azt, ahogy sokan használják a számítógépeket. Ki tudja, fogunk-e még 3-4 év múlva Gemini -ról vagy ChatGPT -ről beszélni. Az viszont, hogy az LLM-ek még inkább a mindennapjaink részévé fognak válni, teljesen biztos. Tekintsünk rájuk úgy, mint az internet más, korábbi nagy fejlődéseinek lépcsőire. Manapság senki sem használja böngészésre az eredeti WorldWideWebet, vagy az NCSA Mosaicot, és senki sem tartja a kapcsolatot ismerőseivel MySpace-en. Ennek ellenére senki sem írja le kollektíven a böngészőket vagy a közösségi médiákat.

Természetesen ez nem azt jelenti, hogy mindenkinek szakértőnek kell lennie – hiszen ebben a cikkben sem neurális hálózatokról, algoritmusokról vagy hardverek technikai részleteiről beszéltünk. Az viszont fontos, sőt, egyre inkább elengedhetetlen, hogy alapvető elvi szinten megértsük az LLM-ek működését: hogy ne fagyjunk le, amikor találkozunk eggyel, hogy tisztában legyünk korlátjaikkal és ne becsüljük túl teljesítményüket vagy megbízhatóságukat, ugyanakkor ne is utasítsuk el őket jó ok nélkül.

Összegzés

Online és offline térben is gyakran szélsőséges véleményekkel találkozunk az LLM-ekkel kapcsolatban – egyesek túlmisztifikált, valóban intelligens programokat látnak bennük, mások élből elvetik őket. A félreértések oka mindkét esetben gyakran az, hogy sokan csak felszínesen érintkeznek ezekkel az eszközökkel, anélkül, hogy megpróbálnák megérteni alapelveiket.

Ne misztifikáljuk túl ezeket az eszközöket, ne gondoljunk rájuk valóban gondolkozó, intelligens gépekként, azonban ne várjuk azt sem, hogy ez csak egy hirtelen fellángolás, amely a következő években majd nyomtalanul eltűnik.

Kezeljük az LLM-eket és a rájuk alapuló chatbotokat helyükön, lenyűgöző, hasznos, de korlátozott és tökéletlen technikai eszközökként, fejben tartva előnyeiket és hiányosságaikat. Reméljük, hogy cikkünkkel segítettünk jobban megérteni ezeket az új technikai eszközöket, és hogy olvasóink több bátorsággal és rálátással tudják majd őket használni a jövőben.

Ha szeretnéd, hogy a te marketingeszközeid is az LLM-ek közreműködésével, de semmiképpen sem kontrollálatlan használatával legyenek megvalósítva, akkor a legjobb helyen jársz, foglalj hozzánk egy időpontot…