OpenAI kehittää ratkaisua ChatGPT:n luoman tekstin tunnistamiseen

ChatGPT

ChatGPT on tekoälyn chatbotin prototyyppi

Paljastettiin, että OpenAI kehittää ohjelmistoa, joka pystyy havaitsemaan, onko sen ChatGPT-malli luonut tekstiä, pian sen jälkeen, kun New Yorkin opetusviranomaiset ilmoittivat estävänsä oppilaiden pääsyn työkaluun julkisissa kouluissa.

Useiden raporttien mukaan tekoälyn käyttö läksyjen tekemisessä on saanut opettajat miettimään, miten se vaikuttaa koulutukseen.

Jotkut ovat ilmaisseet huolensa siitä, miten kielimallit saattavat antaa opiskelijoille mahdollisuuden huijata.

Tämän vuoksi OpenAI ilmoitti kehittävänsä "lievennyksiä", jotka auttavat ihmisiä havaitsemaan ChatGPT:n automaattisesti luoman tekstin.

"Olemme tehneet ChatGPT:n saataville tutkimuksen esikatseluna, jotta voimme oppia todellisesta käytöstä, mikä on mielestämme olennainen osa kykenevien ja turvallisten tekoälyjärjestelmien kehittämistä ja käyttöönottoa. Otamme jatkuvasti huomioon palautetta ja opittuja asioita", yrityksen tiedottaja sanoi.

Yliopiston professorien todistusten mukaan opiskelijat luottavat ChatGPT:hen tehtäviensä, erityisesti esseiden, ratkaisemisessa .

"Akatemia ei nähnyt sen tulevan. Joten se yllätti meidät", sanoo Furmanin yliopiston filosofian apulaisprofessori Darren Hudson Hick.

"Raportoin siitä Facebookissa, ja [opettaja] ystäväni sanoivat: "Joo! Sain myös yhden", hän lisäsi. Aiemmin tässä kuussa Hick kertoi pyytäneen luokkaansa kirjoittamaan 500 sanan esseen XNUMX-luvun skotlantilaisfilosofista David Humesta ja kauhuparadoksista, joka tutkii, kuinka ihmiset voivat saada mielihyvää pelostastaan. , kotitestiä varten. Mutta filosofian professorin mukaan yhdessä hänelle tulleista esseistä oli joitain piirteitä, jotka "merkitsivät" tekoälyn käyttöä opiskelijan "alkeellisessa" vastauksessa. Hick selittää, että koulutettu silmä voi havaita tämän.

Kyky erottaa ihmisen tuottama käsiala koneen tuottamasta käsialasta muuttaa sitä, miten sitä voidaan käyttää akateemisessa maailmassa. Koulut voisivat tehokkaammin valvoa tekoälyn tuottaman testauksen kieltoa.

Kyllä, generatiiviset kielimallit voivat olla hyviä, mutta he eivät tiedä mistä puhuvat.

Niin vaikuttava kuin tekoälyn luoma kirjoittaminen onkin otsikoissa yliopistojen konferensseissa ja kouluissa, jotka kieltävät kirjoituskoneella kirjoitetut artikkelit, tässä on muistutus siitä, että he eivät ymmärrä todellista ihmisen kirjoittamista.

Ja se on, että OpenAI on tehnyt Internetiin vaikutuksen pyrkimyksillään jäljitellä ihmisen älykkyyttä ja taiteellisia kykyjä vuodesta 2015 lähtien. Mutta viime marraskuussa yritys nousi vihdoin megavirukseksi AI-tekstigeneraattorin ChatGPT:n lanseerauksen myötä. Betatyökalun käyttäjät julkaisivat esimerkkejä tekoälyn luomista tekstivastauksista kehotteisiin, jotka vaikuttivat niin oikeutetuilta, että ne iskivät pelon opettajien sydämiin ja jopa saivat Googlen pelkäämään, että työkalu voisi tappaa heidän tutkimustoimintansa.

Jos OpenAI-insinöörit voivat luoda botin, joka osaa kirjoittaa yhtä hyvin tai paremmin kuin keskivertoihminen, on selvää, että he voivat myös luoda botin, joka on keskimääräistä ihmistä parempi havaitsemaan, onko teksti tekoälyn luoma.

Koska OpenAI työskentelee tällä hetkellä ratkaisun parissa, kuten mainittiin, ainakin kolme tunnistustyökalua on jo julkaistu, joita voidaan käyttää:

GPT-2 poistumisilmaisin

GPT-2-poistumistunnistinmallin online-demossa voit liittää tekstiä laatikkoon ja nähdä heti todennäköisyyden, että teksti on kirjoittanut tekoäly. OpenAI:n tutkimuksen mukaan työkalulla on suhteellisen korkea havaitsemisaste, mutta se "on yhdistettävä metatietoihin, ihmisen harkintaan ja julkiseen koulutukseen perustuviin lähestymistapoihin ollakseen tehokkain".

GLTR 

Kun OpenAI julkaisi GPT-2:n vuonna 2019, MIT-IBM Watson AI Labin ja Harvard Natural Language Processing Groupin ihmiset tekivät yhteistyötä luodakseen algoritmin, joka yrittää havaita, onko robotti kirjoittanut tekstiä.

Tietokoneella luotu teksti saattaa vaikuttaa ihmisen kirjoittamalta, mutta ihmiskirjoittaja valitsee todennäköisemmin arvaamattomia sanoja. Jos GLTR-algoritmi voi ennustaa lauseen seuraavan sanan käyttämällä "kestää yhden tietää" -menetelmää, se olettaa, että lauseen on kirjoittanut botti.

GPZero

Joulun aikana Edward Tian oli kiireisenä luomassa GPTZero-sovellusta, joka voi auttaa määrittämään, oliko teksti ihmisen vai botin kirjoittama. Princetonin akateemikkona Tian ymmärtää, kuinka yliopiston professorit voivat olla kiinnostuneita havaitsemaan tekoälyavusteista plagiointia tai tekoälyavusteista plagiointia.

Tian sanoo, että hänen työkalunsa mittaa lauseiden satunnaisuutta ("buzz") ja yleistä satunnaisuutta ("purskeet") laskeakseen todennäköisyyden, että teksti on kirjoittanut ChatGPT. Sen jälkeen kun Tian twiittasi GPTZerosta tammikuun 2. päivänä, hän sanoo, että sijoitushaluavat pääomasijoittajat ovat jo lähestyneet häntä, ja hän kehittää päivitettyjä versioita pian.

Lähde: https://techcrunch.com


Lisää ensisijaiseksi lähteeksi Googlessa