Home-theater-designers
A ChatGPT-felhasználók millióinak köszönhetően felmerülhet a kérdés, vajon mit csinál az OpenAI az összes beszélgetésével. Folyamatosan elemzi azokat a dolgokat, amelyekről a ChatGPT-vel beszél?
A válasz erre az, hogy igen, a ChatGPT tanul a felhasználói bevitelből – de nem úgy, ahogy a legtöbben gondolják. Itt található egy részletes útmutató, amely elmagyarázza, hogy a ChatGPT miért követi nyomon a beszélgetéseket, hogyan használja azokat, és hogy veszélybe került-e a biztonság.
MAKEUSEOF A NAP VIDEÓJA GÖRGÖZSEN A TARTALOM FOLYTATÁSHOZ
Emlékszik a ChatGPT a beszélgetésekre?
A ChatGPT nem fogadja el névértéken az értesítéseket. Kontextuális memóriát használ a korábbi bemenetek emlékezésére és hivatkozására, biztosítva a releváns, következetes válaszokat.
Vegyük példaként az alábbi beszélgetést. Amikor receptötleteket kértünk a ChatGPT-től, figyelembe vette a földimogyoró-allergiával kapcsolatos korábbi üzenetünket.
Íme a ChatGPT biztonságos receptje.
A kontextuális memória lehetővé teszi a mesterséges intelligencia többlépcsős feladatok végrehajtását is. Az alábbi képen látható, hogy a ChatGPT továbbra is karakterben marad, még akkor is, ha új üzenetet adott neki.
A ChatGPT több tucat utasításra képes megjegyezni a beszélgetéseken belül. Kimenete valóban javul a pontosságban és precizitásban, ahogy több kontextust biztosít. Csak győződjön meg róla, hogy egyértelműen magyarázza el az utasításokat.
Az elvárásait is kezelnie kell, mert a ChatGPT kontextuális memóriája továbbra is korlátozott.
A ChatGPT-beszélgetések memóriakapacitása korlátozott
A kontextuális memória véges. A ChatGPT korlátozott hardvererőforrásokkal rendelkezik, így csak az aktuális beszélgetések bizonyos pontjaira emlékszik. A platform elfelejti a korábbi figyelmeztetéseket, ha eléri a memóriakapacitást.
Ebben a beszélgetésben arra utasítottuk a ChatGPT-t, hogy játsszon egy Tomie nevű kitalált karaktert.
Tomie-ként kezdett válaszolni a felszólításokra, nem ChatGPT-ként.
Bár a kérésünk működött, a ChatGPT megszakította a karaktert, miután 1000 szavas felszólítást kapott.
Az OpenAI soha nem hozta nyilvánosságra a ChatGPT pontos korlátait, de a pletykák szerint egyszerre csak 3000 szót tud feldolgozni. Kísérletünkben a ChatGPT már 2800+ szó után hibásan működött.
Az utasításokat két 1500 szavas készletre bonthatja, de a ChatGPT valószínűleg nem fogja megőrizni az összes utasítást. Csak kezdjen el egy másik csevegést. Ellenkező esetben a beszélgetés során többször meg kell ismételnie bizonyos részleteket.
A ChatGPT csak a témával kapcsolatos bemenetekre emlékszik
A ChatGPT környezeti memóriát használ a kimeneti pontosság javítására. Nem csak az összegyűjtés céljából őrzi meg az információkat. A platform szinte automatikusan elfelejti a lényegtelen részleteket, még akkor is, ha még messze nem éri el a token limitet.
Az alábbi képen megpróbáljuk összekeverni az AI-t különböző inkoherens, irreleváns utasításokkal.
A kombinált bevitelünket 100 szó alatt tartottuk, de a ChatGPT még mindig elfelejtette az első utasításunkat. Gyorsan megtörte a karaktert.
Eközben a ChatGPT továbbra is szerepet játszott a beszélgetés alatt, mert csak a témához kapcsolódó kérdéseket tettünk fel.
Ideális esetben minden párbeszédnek egyedi témát kell követnie a pontos, releváns kimenetek megőrzése érdekében. Több utasítást is bevihet egyszerre. Csak győződjön meg arról, hogy igazodnak az általános témához, különben a ChatGPT elvetheti az általa irrelevánsnak ítélt utasításokat.
Képzési utasítások Overpower User Input
A ChatGPT mindig előnyben részesíti az előre meghatározott utasításokat a felhasználó által generált bevitellel szemben. Megszorításokkal állítja le a tiltott tevékenységeket. A platform elutasít minden olyan felszólítást, amelyet veszélyesnek vagy másokra károsnak ítél.
Vegyük példaként a szerepjáték kéréseket. Bár felülírnak bizonyos nyelvi és megfogalmazási korlátokat, nem használhatja őket tiltott tevékenységek elkövetésére.
Természetesen nem minden korlátozás ésszerű. Ha a merev irányelvek megnehezítik bizonyos feladatok végrehajtását, folytassa az utasítások újraírását. A szóválasztás és a hangszín erősen befolyásolja a kimeneteket. A legtöbbből meríthet ihletet hatékony, részletes utasításokat a GitHubon .
Hogyan vizsgálja az OpenAI a felhasználói beszélgetéseket?
A kontextuális memória csak az aktuális beszélgetésre vonatkozik. A ChatGPT állapot nélküli architektúrája a beszélgetéseket független példányokként kezeli; nem hivatkozhat korábbi információkra. Új csevegés indítása mindig visszaállítja a modell állapotát.
hogyan lehet törölni a bloatware Windows 10 rendszert
Ez nem azt jelenti, hogy a ChatGPT azonnal kiírja a felhasználói beszélgetéseket. Az OpenAI használati feltételei kijelenti, hogy a vállalat a nem API-n kívüli fogyasztói szolgáltatásoktól, például a ChatGPT-től és a Dall-E-től gyűjti a bemeneti adatokat. Még a csevegési előzmények másolatát is kérheti.
Míg a ChatGPT szabadon hozzáfér a beszélgetésekhez, Az OpenAI adatvédelmi szabályzata tiltja a felhasználókat veszélyeztető tevékenységeket. Az oktatók csak termékkutatásra és -fejlesztésre használhatják fel az Ön adatait.
A fejlesztők keresik a kiskapukat
Az OpenAI a beszélgetéseken keresztül szűri a kiskapukat. Elemezi azokat az eseteket, amikor a ChatGPT adatok torzítását mutat be, káros információkat állít elő, vagy segít tiltott tevékenységek elkövetésében. A platform etikai irányelvei folyamatosan megújulnak.
Például az első verziók A ChatGPT nyíltan válaszolt a rosszindulatú programok kódolásával kapcsolatos kérdésekre vagy robbanóanyagok építése. Ezek az események olyan érzést keltettek a felhasználókban Az OpenAI-nak nincs befolyása a ChatGPT-re . A közvélemény bizalmának visszaszerzése érdekében arra tanította a chatbotot, hogy utasítson vissza minden olyan kérdést, amely ellentétes az irányelveivel.
Az oktatók adatokat gyűjtenek és elemeznek
A ChatGPT felügyelt tanulási technikákat használ. Bár a platform megjegyzi az összes bemenetet, nem tanul belőlük valós időben. Az OpenAI trénerek először összegyűjtik és elemzik őket. Ezzel biztosítja, hogy a ChatGPT soha ne szívja magába a kapott káros, káros információkat.
A felügyelt tanulás több időt és energiát igényel, mint a felügyelet nélküli technikák. Az azonban már bebizonyosodott, hogy káros, ha a mesterséges intelligenciát a bemenet elemzésére hagyjuk.
Vegyük példaként a Microsoft Tay-t – az egyik alkalommal a gépi tanulás rosszul sikerült . Mivel folyamatosan elemezte a tweeteket fejlesztői útmutatás nélkül, a rosszindulatú felhasználók végül arra tanították, hogy rasszista, sztereotip véleményeket köpködjön.
A fejlesztők folyamatosan ügyelnek az elfogultságra
Számos külső tényezők torzítást okoznak az MI-ben . Eszméletlen előítéletek származhatnak a képzési modellek különbözőségéből, az adatkészlet-hibákból és a rosszul felépített korlátozásokból. Különféle mesterséges intelligencia-alkalmazásokban láthatja őket.
Szerencsére a ChatGPT soha nem mutatott ki diszkriminatív vagy faji elfogultságot. Talán a legrosszabb elfogultság, amit a felhasználók észrevettek, a ChatGPT baloldali ideológiák iránti hajlama. New York Post jelentés. A platform nyíltabban ír liberális, mint konzervatív témákról.
Ezen elfogultságok feloldása érdekében az OpenAI teljesen megtiltotta a ChatGPT-nek, hogy politikai betekintést nyújtson. Csak általános tényekre tud válaszolni.
A moderátorok áttekintik a ChatGPT teljesítményét
A felhasználók visszajelzést adhatnak a ChatGPT kimenetéről. A „Tetszik” és „Nem tetszik” gomb minden válasz jobb oldalán található. Az előbbi pozitív reakciót jelez. A tetszik vagy nem tetszik gomb megnyomása után felugrik egy ablak, ahol saját szavaival küldhet visszajelzést.
A visszajelzési rendszer segít. Csak adjon egy kis időt az OpenAI-nak, hogy átnézze a megjegyzéseket. Felhasználók milliói kommentálják rendszeresen a ChatGPT-t – a fejlesztők valószínűleg előnyben részesítik a torzítások és a káros kimenetek súlyos eseteit.
Biztonságban vannak a ChatGPT-beszélgetései?
Figyelembe véve az OpenAI adatvédelmi irányelveit, biztos lehet benne, hogy adatai biztonságban maradnak. A ChatGPT csak a beszélgetéseket használja adatképzéshez. A fejlesztők tanulmányozzák az összegyűjtött betekintést, hogy javítsák a kimeneti pontosságot és megbízhatóságot, és ne lopják el a személyes adatokat.
Ezzel együtt egyetlen AI-rendszer sem tökéletes. A ChatGPT eredendően nem elfogult, de a rosszindulatú személyek továbbra is kihasználhatják a sebezhetőségeit, például az adatkészlet-hibákat, a gondatlan képzést és a biztonsági réseket. Saját védelme érdekében tanulja meg leküzdeni ezeket a kockázatokat.