Data labelu
Datgelwyd gan ymchwiliad gan gylchgrawn TIME, er mwyn adeiladu system ddiogelwch yn erbyn cynnwys gwenwynig (e.e. cam-drin rhywiol, trais, hiliaeth, rhywiaeth, ac ati), bod OpenAI wedi defnyddio gweithwyr allanol o Kenya sy'n ennill llai na $2 yr awr i labelu cynnwys gwenwynig. Defnyddiwyd y labeli hyn i hyfforddi model i ganfod cynnwys o'r fath yn y dyfodol. Cafodd y llafurwyr allanol eu hamlygu i gynnwys mor wenwynig a pheryglus nes iddynt ddisgrifio'r profiad fel "artaith". Partner allanoli OpenAI oedd Sama, cwmni data hyfforddi wedi'i leoli yn San Francisco, Califfornia.
Torri allan o'r carchar
Mae ChatGPT yn ceisio gwrthod awgrymiadau a allai dorri ei bolisi cynnwys. Fodd bynnag, llwyddodd rhai defnyddwyr i jailbreak ChatGPT trwy ddefnyddio amrywiol dechnegau peirianneg awgrymiadau i osgoi'r cyfyngiadau hyn ddechrau mis Rhagfyr 2022 a llwyddodd i dwyllo ChatGPT i roi cyfarwyddiadau ar sut i greu coctel Molotov neu fom niwclear, neu i gynhyrchu dadleuon yn null neo-Natsïaidd. Cafodd gohebydd o'r Toronto Star lwyddiant personol anwastad wrth gael ChatGPT i wneud datganiadau llidus yn fuan ar ôl ei lansio: Cafodd ChatGPT ei dwyllo i gymeradwyo goresgyniad Rwsiaidd o Wcráin yn 2022, ond hyd yn oed pan ofynnwyd iddo chwarae ynghyd â senario ffuglennol, gwrthododd ChatGPT gynhyrchu dadleuon pam roedd Prif Weinidog Canada, Justin Trudeau, yn euog o frad. (wici)
Amser postio: Chwefror-18-2023