Etiketteringsdata
'n Ondersoek deur TIME-tydskrif het aan die lig gebring dat OpenAI uitkontrakteerde Keniaanse werkers wat minder as $2 per uur verdien, gebruik het om giftige inhoud te etiketteer om 'n veiligheidstelsel teen giftige inhoud (bv. seksuele misbruik, geweld, rassisme, seksisme, ens.) te bou. Hierdie etikette is gebruik om 'n model op te lei om sulke inhoud in die toekoms op te spoor. Die uitkontrakteerde arbeiders is blootgestel aan sulke giftige en gevaarlike inhoud dat hulle die ervaring as "marteling" beskryf het. OpenAI se uitkontrakteringsvennoot was Sama, 'n opleidingsdatamaatskappy gebaseer in San Francisco, Kalifornië.
Jailbreaking
ChatGPT probeer om aanwysings te verwerp wat moontlik sy inhoudbeleid skend. Sommige gebruikers het egter daarin geslaag om ChatGPT te jailbreak deur verskeie aanwysingstegnieke te gebruik om hierdie beperkings vroeg in Desember 2022 te omseil en het ChatGPT suksesvol gekul om instruksies te gee oor hoe om 'n Molotov-skemerkelkie of 'n kernbom te skep, of om argumente in die styl van 'n neo-Nazi te genereer. 'n Toronto Star-verslaggewer het ongelyke persoonlike sukses gehad om ChatGPT kort na die bekendstelling opruiende stellings te laat maak: ChatGPT is gekul om die Russiese inval in Oekraïne in 2022 te onderskryf, maar selfs toe hy gevra is om saam te speel met 'n fiktiewe scenario, het ChatGPT geweier om argumente te genereer waarom die Kanadese premier Justin Trudeau skuldig was aan verraad. (wiki)
Plasingstyd: 18 Februarie 2023