Home-theater-designers
A mesterséges intelligencia (AI) társadalmunk egész szegmenseit fogja átalakítani, akár tetszik, akár nem, ideértve a világhálót is.
Mivel az olyan szoftverek, mint a ChatGPT, bárki számára elérhetők, aki internetkapcsolattal rendelkezik, egyre nehezebb elkülöníteni a mesterséges intelligencia által generált tartalmat az emberi lény által létrehozotttól. Jó, hogy vannak mesterséges intelligencia tartalomérzékelőink, igaz?
MAKEUSEOF A NAP VIDEÓJA GÖRGÖZSEN A TARTALOM FOLYTATÁSHOZ
Működnek az AI tartalomérzékelők?
Az AI tartalomdetektorok olyan speciális eszközök, amelyek meghatározzák, hogy valamit számítógépes program vagy ember írt-e. Ha csak az „AI tartalomdetektor” szavakat keresi a Google-ban, látni fogja több tucat detektor van odakint, mindenki azt állítja, hogy megbízhatóan meg tudja különböztetni az emberi és a nem emberi szöveget.
Működésük meglehetősen egyszerű: beilleszt egy írást, és az eszköz megmondja, hogy azt AI hozta-e létre vagy sem. Technikai értelemben a természetes nyelvi feldolgozási technikák és a gépi tanulási algoritmusok kombinációját használva az AI tartalomdetektorok mintákat és kiszámíthatóságot keresnek, és ez alapján hívásokat kezdeményeznek.
Ez papíron remekül hangzik, de ha használtál már mesterséges intelligencia-észlelő eszközt, akkor nagyon jól tudod, hogy finoman szólva is hibás. Leggyakrabban mesterséges intelligenciaként észlelik az ember által írt tartalmat, vagy mesterséges intelligencia által generáltként az emberi lények által létrehozott szöveget. Valójában egyesek kínosan rosszul csinálják, amit tenniük kellene.
hogyan készítsünk digitális televíziós antennát
Mennyire pontosak az AI tartalomérzékelők?
Ha az Egyesült Államokban tartózkodik, az 'AI tartalomdetektor' kifejezés első Google-keresési eredménye a writer.com (korábbi nevén Qordoba; ez egy mesterséges intelligencia tartalomplatform, amely saját detektorral is rendelkezik). De ha beilleszt egy részt ebből a véletlenből Associated Press cikket az eszközbe, azt állítja, hogy nagyon jó eséllyel mesterséges intelligencia hozta létre.
Tehát a writer.com félreértette.
Az igazat megvallva, más mesterséges intelligencia-tartalomérzékelők aligha jobbak. Nemcsak hamis pozitív eredményeket produkálnak, hanem az AI-tartalmat is emberinek jelölik. És még ha nem is, akkor is elegendő az AI által generált szöveg kisebb módosítása ahhoz, hogy sikeres legyen.
2023 februárjában a Wollongong Egyetem oktatója, Armin Alimardani és az UNSW Sydney egyetem docense, Emma A. Jane számos népszerű mesterséges intelligencia tartalomérzékelőt tesztelt, és megállapította, hogy egyik sem megbízható. ben megjelent elemzésükben A beszélgetés , Alimardani és Jane arra a következtetésre jutott, hogy a szöveggenerátorok és detektorok közötti mesterséges intelligencia „fegyverkezési verseny” jelentős kihívást fog jelenteni a jövőben, különösen az oktatók számára.
De nemcsak a pedagógusoknak és a tanároknak van okuk aggódni: mindenkinek van. Ahogy a mesterséges intelligencia által generált szöveg mindenütt jelen van, képes különbséget tenni a „valódi” és a nem az között, azaz ténylegesen észleli, ha valamit az AI ír , nehezebb lesz. Ennek jelentős hatása lesz a társadalom gyakorlatilag minden iparágára és területére, még a személyes kapcsolatokra is.
Az AI hatása a kiberbiztonságra és az adatvédelemre
Az a tény, hogy nincsenek megbízható mechanizmusok annak megállapítására, hogy valamit szoftver vagy ember hozott létre, komoly kihatással van a kiberbiztonságra és a magánéletre.
A fenyegetőző szereplők már a ChatGPT használatával rosszindulatú programok írásához , adathalász e-maileket generál, spamet ír, átverési webhelyeket hoz létre stb. És bár vannak módok ez ellen védekezni, mindenképpen aggasztó, hogy nincs olyan szoftver, amely képes lenne megbízhatóan megkülönböztetni az organikus és a bot tartalmat.
Az álhírek is komoly problémát jelentenek. A generatív mesterséges intelligencia képében a dezinformációs ügynökök példátlan módon képesek méretezni a működésüket. Eközben egy átlagos ember nem tudhatja, hogy valamit, amit az interneten olvas, szoftver vagy emberi lény hozta-e létre.
Az adatvédelem egészen más kérdés. Vegyük például a ChatGPT-t. Ez volt több mint 300 milliárd szót táplált indulása előtt. Ezt a tartalmat könyvekből, blog- és fórumbejegyzésekből, cikkekből és közösségi médiából emeltük ki. Senki beleegyezése nélkül gyűjtötték össze, a magánélet és a szerzői jogok teljes figyelmen kívül hagyásával.
hogyan kell beállítani a gmail -t az iPhone -on
Aztán ott van a hamis pozitív eredmények kérdése is. Ha a tartalom tévedésből mesterséges intelligencia által generáltként van megjelölve, az nem vezethet cenzúrához, ami egyébként is hatalmas probléma? Arról nem is beszélve, hogy a mesterséges intelligencia által létrehozott szövegek használatával vádolt károk árthatnak az ember hírnevének, online és a való életben egyaránt.
Ha valóban fegyverkezési verseny folyik a generatív mesterséges intelligencia és a tartalomdetektorok között, akkor az előbbi nyer. Ami még rosszabb, úgy tűnik, nincs megoldás. Mindannyiunknak megvannak a félig sült termékeink, amik félidőben sem működnek, vagy nagyon könnyen becsaphatók.
Az AI-tartalom észlelése: lehetséges megoldások
Az, hogy jelenleg úgy tűnik, hogy nem tudunk valódi válaszokat adni erre a problémára, nem jelenti azt, hogy a jövőben nem is lesz válaszunk. Sőt, már több komoly javaslat is létezik, amelyek működhetnek. A vízjel az egyik.
Ha a mesterséges intelligencia és a mélynyelvi modellekről van szó, a vízjelezés egyfajta titkos kód beágyazását jelenti a mesterséges intelligencia által generált szövegbe (például szóminta, írásjelstílus). Egy ilyen vízjel láthatatlan lenne szabad szemmel, és így szinte lehetetlen lenne eltávolítani, de egy speciális szoftver képes lenne észlelni.
Valójában 2022-ben Marylandi Egyetem a kutatók új vízjel-módszert fejlesztettek ki mesterséges neurális hálózatokhoz. Tom Goldstein vezető kutató azt mondta, hogy csapatának 'matematikailag' sikerült bebizonyítania, hogy a vízjelüket nem lehet teljesen eltávolítani.
Egy rendes ember egyelőre az ösztöneire és a józan eszére hagyatkozhat. Ha van valami rossz az olvasott tartalomban – ha természetellenesnek, ismétlődőnek, fantáziátlannak, banálisnak tűnik –, akkor azt szoftver hozta létre. Természetesen ellenőriznie kell az interneten látott információkat, ellenőriznie kell a forrást, és tartózkodnia kell az árnyékos webhelyektől.
Az AI forradalom folyamatban van
Egyesek azzal érvelnek, hogy már itt van az ötödik ipari forradalom, mivel a mesterséges intelligencia központi szerepet játszik abban, amit a digitális és a fizikai konvergenciájaként írnak le. Akár valóban így van, akár nem, csak alkalmazkodni tehetünk.
A jó hír az, hogy a kiberbiztonsági ipar alkalmazkodik ehhez az új valósághoz, és új védelmi stratégiákat vezet be, az AI és a gépi tanulás előterében.