Goblygiadau ChatGPT

Mewn seiberddiogelwch

Nododd Check Point Research ac eraill fod ChatGPT yn gallu ysgrifennupysgotanegeseuon e-bost ameddalwedd faleisus, yn enwedig pan gaiff ei gyfuno âCodex OpenAIYsgrifennodd Prif Swyddog Gweithredol OpenAI y gallai meddalwedd sy'n datblygu beri “(er enghraifft) risg seiberddiogelwch enfawr” a pharhaodd hefyd i ragweld “y gallem gyrraedd AGI go iawn (deallusrwydd cyffredinol artiffisial) yn y degawd nesaf, felly mae'n rhaid i ni gymryd y risg o hynny o ddifrif iawn”. Dadleuodd Altman, er bod ChatGPT “yn amlwg ddim yn agos at AGI”, y dylai rhywun “ymddiried yn yesbonyddolYn edrych yn ôl yn fflat,fertigol yn edrych ymlaen.”

Yn y byd academaidd

Gall ChatGPT ysgrifennu cyflwyniadau a chrynodebau erthyglau gwyddonol, sy'n codi cwestiynau moesegol. Mae sawl papur eisoes wedi rhestru ChatGPT fel cyd-awdur.

YnYr Iweryddcylchgrawn,Stephen Marchenododd fod ei effaith ar y byd academaidd ac yn enwedigtraethodau caisheb ei ddeall eto. Ysgrifennodd yr athro ysgol uwchradd ac awdur o California, Daniel Herman, y byddai ChatGPT yn arwain at “ddiwedd Saesneg ysgol uwchradd”. Yn yNaturcyfnodolyn, nododd Chris Stokel-Walker y dylai athrawon fod yn bryderus ynghylch myfyrwyr yn defnyddio ChatGPT i allanoli eu hysgrifennu, ond y bydd darparwyr addysg yn addasu i wella meddwl beirniadol neu resymu. Emma Bowman gydaNPRysgrifennodd am berygl myfyrwyr yn llên-ladrad trwy offeryn AI a allai allbynnu testun rhagfarnllyd neu ddi-synnwyr gyda thôn awdurdodol: “Mae yna lawer o achosion o hyd lle rydych chi'n gofyn cwestiwn iddo a bydd yn rhoi ateb sy'n swnio'n drawiadol iawn i chi sydd newydd fod yn hollol anghywir.”

Joanna Stern gydaY Wall Street Journaldisgrifiodd dwyllo mewn Saesneg ysgol uwchradd Americanaidd gyda'r offeryn trwy gyflwyno traethawd a gynhyrchwyd. Yr Athro Darren Hick oPrifysgol Furmandisgrifiodd sylwi ar “arddull” ChatGPT mewn papur a gyflwynwyd gan fyfyriwr. Honnodd synhwyrydd GPT ar-lein fod y papur 99.9 y cant yn debygol o gael ei gynhyrchu gan gyfrifiadur, ond nid oedd gan Hick brawf caled. Fodd bynnag, cyfaddefodd y myfyriwr dan sylw i ddefnyddio GPT pan gafodd ei wynebu, ac o ganlyniad methodd y cwrs. Awgrymodd Hick bolisi o roi arholiad llafar unigol ad hoc ar bwnc y papur os oes amheuaeth gryf bod myfyriwr yn cyflwyno papur a gynhyrchwyd gan AI. Edward Tian, ​​myfyriwr israddedig hŷn ynPrifysgol Princeton, creodd raglen, o'r enw “GPTZero,” sy'n pennu faint o destun sydd wedi'i gynhyrchu gan AI, gan ei gwneud hi'n bosibl ei ddefnyddio i ganfod a yw traethawd wedi'i ysgrifennu gan ddyn i frwydro yn erbynllên-ladrad academaidd.

O 4 Ionawr 2023 ymlaen, mae Adran Addysg Dinas Efrog Newydd wedi cyfyngu mynediad i ChatGPT o'i rhyngrwyd a dyfeisiau ysgolion cyhoeddus.

Mewn prawf dall, barnwyd bod ChatGPT wedi pasio arholiadau lefel graddedig yn yPrifysgol Minnesotaar lefel myfyriwr C+ ac ynYsgol Wharton Prifysgol Pennsylvaniagyda gradd B i B-. (Wicipedia)

Y tro nesaf byddwn yn siarad am bryderon moesegol y ChatGPT.