Mi marad az emberből, ha az AI erősebb lesz?

A human in the loop, magyarul az ember a ciklusban, minden nyelvi modellt használó fejlesztésben visszatérő kifejezés. A hozzá tartozó magyarázat általában az, hogy az AI a rutinszerű, jól leírható feladatokban erős, minden másban pedig kell mellé az ember. Ez jól hangzik, és pont ezért érdemes megnézni közelebbről.

Ha egy folyamat nem leírható, azt programozni sem lehet. A szoftverfejlesztés éppen a leírásról szól: amíg nem tudjuk pontosan megmondani, mi történjen, addig nincs mit megvalósítani. Vagyis a leírhatóság nem választja szét az embert és a gépet, mert a mi oldalunkon minden leírható, amivel egyáltalán dolgozni tudunk. A határvonal máshol van.

Amit valójában szorzunk

A modell kimenete nem önmagában áll. Nagyjából így néz ki: AI szorozva azzal, amit a használó hozzátesz, vagyis a tudásával, a tapasztalatával, az ítélőképességével és azzal, mennyire pontosan tudja kimondani, mit akar. Az eredmény ennek a szorzata.

Ezt naponta lehet ellenőrizni. Mindenki zsebében ott van ugyanaz a telefon és nagyjából ugyanaz a modell, mégis nagyon eltérő az, ami kijön belőle. Ha csak az eszközön múlna, ez a különbség nem létezne.

A legerősebb ellenérv

Aki nem ért egyet, annak van egy jó érve, és érdemes a legerősebb formájában kimondani. Ha a modellek gyorsabban erősödnek, mint amennyit az ember hozzá tud tenni, akkor a szorzat egyre inkább az első tényezőn múlik. Ez nem jövőbeli feltételezés: már most is jobb eredményt ér el egy kevesebb tapasztalattal rendelkező ember egy erősebb modellel, mint egy tapasztaltabb egy gyengébbel.

Ezzel nem akarok vitatkozni, mert jól körülírt feladatokon igaz. Ha pontosan meg van mondva, mit kell csinálni, és a jó megoldás ránézésre felismerhető, akkor tényleg a modell ereje dönt. Ezt a részt az AI el is fogja venni, és ez rendben van.

Ahol mégsem így van

Az első a kérdés kimondása. A modell arra válaszol, amit kérdezel, nem arra, amire szükséged lenne. Az ügyfél pedig ritkán a problémát mondja el, hanem a megoldást, amit elképzelt magának. A kettő szétválasztása nem a modellen múlik, hanem azon, hogy valaki elég sokszor látta már, mi szokott a kimondott kérés mögött lenni.

A második a rossz válasz felismerése. Egy nyelvi modell ugyanolyan magabiztosan fogalmaz akkor is, ha téved. Nincs a hangvételében különbség a biztos és a bizonytalan között. Itt fordul át az ellenérv az ellenkezőjébe: minél jobb egy modell, annál ritkábban téved, és annál nehezebb észrevenni, amikor mégis. A ritka és jól álcázott hibához nem kevesebb tapasztalat kell, hanem több.

A gyenge modell hibáját a laikus is kiszúrja. Az erősét csak az, aki már látott jó és rossz megoldást is ugyanabban a helyzetben.

A harmadik a felelősség. Ha egy rendszer a legrosszabb pillanatban áll meg, valakinek fel kell vennie a telefont, és valakinek helyre kell tennie. Ez nem tudás kérdése és nem is képességé, hanem azé, hogy van-e valaki, aki vállalja. Ezt egyelőre nem lehet előfizetni.

Akkor mi változik

Az emberi tényező nem tűnik el, hanem elmozdul. Eddig azon múlt, meg tudod-e csinálni. Most azon múlik, meg tudod-e ítélni, hogy jó lett-e, és kiállsz-e mellette. Ez kevesebb gépeléssel jár és több döntéssel, és nem ugyanaz a két dolog.

Egy dolgot tegyünk hozzá a tisztesség kedvéért. Ez a mi következtetésünk, nem mérés. Arra, hogy pontosan hogyan oszlik meg a szorzat két tényezője, nincs használható adatunk, és aki ilyet mutat, attól érdemes megkérdezni, mit mért pontosan.

Az ügyfél szempontjából viszont mindez egyszerűbb. Nem kódot vesz, hanem valakit, aki felel azért, ami elkészült. Amíg ez így van, addig a szorzat második tényezője nem lesz nulla.