Сутаңба қалай жұмыс істейді

OpenAI мәліметінше, мұндай белгі мәтінді дайындау кезінде компанияның құралдары пайдаланылған-пайдаланылмағанын анықтауға мүмкіндік береді.

Алғашқы кезеңде жаңа жүйе ЕО-дағы барлық тарифтік жоспарларды пайдаланушыларға қолжетімді болады. Алайда сутаңба тек оны енгізуге жарамды мәтіндерге қойылады. Компания әзірге бұл жүйені әлемнің барлық елінде әдепкі тәртіппен енгізуді жоспарлап отырған жоқ. Ал модельдерді бөгде сервистерге қосуға арналған API интерфейсін пайдаланатын клиенттер жекелеген модельдерге сутаңбаны елге қарамастан өз еркімен қоса алады.

OpenAI әзірлеген textGrain технологиясы жауап құрастырылған кезде сөздер мен олардың бөліктерінің таңдалуына көзге байқалмайтын өзгеріс енгізеді. Соның нәтижесінде мәтінде арнайы детектор тани алатын статистикалық үлгі қалыптасады.

Оқырман сутаңбаны көрмейді. Жүйе жасырын таңбалар, әдеттен тыс бос орындар немесе тыныс белгілерін қоспайды. Белгі мәтіндегі сөздердің іріктелу тәсіліне тікелей енгізіледі және мәтінді көшірген кезде де сақталуы мүмкін.

Мәтінді кім тексере алады

Алғашқы кезеңде мәтінді анықтайтын детектор көпшілікке ашық болмайды. Оған технологияның қаншалықты сенімді екенін бағалауға көмектесетін арнайы мақұлданған зерттеушілер мен сараптамалық ұйымдар ғана қол жеткізе алады.

Бұл ретте мәтіннен сутаңба табылғанымен, пайдаланушының кім екені, оның қандай сұрау жолдағаны немесе хат алмасуы туралы ақпарат анықталмайды. Сондай-ақ сутаңба мәтінді дайындауға адамның қаншалықты үлес қосқанын көрсетпейді және ондағы ақпараттың шынайылығын растамайды.

Тексеру кезінде қателік болуы мүмкін

OpenAI технологияның шектеулері бар екенін де мойындайды. Қысқа мәтіндерді немесе сөз қолданысының нұсқалары аз жауаптарды анықтау қиынырақ. Ал мәтінді едәуір өзгертіп өңдеу, мазмұнын өз сөзімен жеткізу немесе аудару сутаңбаның айқындылығын әлсіретіп, детекторға оны анықтауды қиындатуы мүмкін.

Сондықтан мәтіннен сутаңбаның табылмауы оны адам жазғанын дәлелдемейді. Керісінше, жүйе сутаңба жоқ мәтіннен оны қате анықтауы да мүмкін.

OpenAI бұл жүйені енгізу қажеттігін Еуропадағы жасанды интеллект туралы заң талаптарымен байланыстырады. EU AI Act заңында жасанды интеллект көмегімен жасалған контентке машина оқи алатын белгі қою қарастырылған.