Claude мәтінде із қалдырады. Тіпті сіз оны өзіңіз жазсаңыз да

RD media дайындады

Anthropic Claude мәтіндеріне көрінбейтін су белгілерін енгізеді. Оларды көзбен көру мүмкін емес, көшіру кезінде сақталады және редакциялаудың бір бөлігін көтереді. Бірақ мәселе технологияда емес — ол адам жазған мәтінді де белгілейді.

Су белгісі қалай жұмыс істейді

Бұл жасырын символдар жолы да, құжат метадеректері де емес.

Генерация кезінде Claude рұқсат етілген сөздер мен токендерді таңдау ықтималдығын аздап өзгертеді. Жеткілікті ұзын мәтінде арнайы детектормен анықтауға болатын статистикалық паттерн пайда болады.

Мәтін мағынасы өзгермеуі тиіс.

Anthropic маңызды шектеуді атап көрсетеді: анықталған су белгісі Claude мәтінді өңдеуге қатысуы мүмкін екенін білдіреді. Ол өзі Claude оның авторы екенін дәлелдемейді.

Осы жерде дау басталды.

Ал егер адам мәтінді өзі жазса?

Елестетіңіз: сіз мақаланы өз бетіңізше жаздыңыз, оны Claude-ке грамматиканы түзетуге бердіңіз, түзетілген нұсқаны көшірдіңіз — детектор су белгісін анықтады.

ЖИ шынымен өңдеуге қатысты. Бірақ бастапқы мәтіннің авторы адам болып қалады.

Журналист үшін — бедел мәселесі. Студент үшін — академиялық адалдық. Бағдарламашы үшін — тапсырыс берушімен келісімшарт шарттары.

Кейбір Claude пайдаланушылары осыған байланысты жазылымдарын тоқтатқанын айтты. Business Insider кем дегенде төрт пайдаланушымен сөйлесті.

Дегенмен, бұл жағдайларды «Claude-ден жаппай кету» деп атауға әзірге негіз жоқ: Anthropic Business Insider-ге белгілеу енгізілгеннен кейін жазылымдарды тоқтатудың айтарлықтай өсуі байқалмағанын айтты.

Құралды автор деп санауға бола ма?

Технологиялық аналитик Бен Томпсон Stratechery блогында мәселені одан қатты қойды.

Егер адам Claude-ді тек грамматиканы түзету үшін пайдаланса — неліктен қорытынды мәтін ЖИ белгісін алуы керек?

Оның логикасы бойынша, мәтін өңдеу құралын автоматты түрде авторға айналдыруға болмайды. Әйтпесе, дәл сол сәттілікпен қолжазбаның авторы деп оны жазған шарикті қаламды санауға болады.

Техникалық мәселе де бар.

Су белгісі мәтіннің жеткілікті статистикалық құрылымы сақталғанша жақсы жұмыс істейді. Едәуір парафраз немесе өңдеу сигналды біртіндеп әлсіретеді.

Парадокс шығады: Claude арқылы мәтінін жай редакциялаған адал пайдаланушыны белгілеу сүйемелдеуі мүмкін, ал әдейі терең өңдеу сигналды әлсіретуі мүмкін.

Индустрия басқа тепе-теңдік іздейді

Реттеушілер ЖИ-контенттің шығу тегінің ашықтығын талап етеді. Пайдаланушылар сол аралықта модельдерді өз материалдарының редакторлары, аудармашылары және корректорлары ретінде жиірек пайдаланады.

Google бір мезгілде дерлік бұл мәселені шешудің басқа нұсқасын көрсетті.

Компания Gemini пайдаланушыларына ЖИ жасаған суреттердегі, видеолардағы және музыкадағы көрінетін белгіні өшіруге мүмкіндік берді.

Бірақ контенттің шығу тегі туралы ақпарат сонымен бірге жоғалмайды.

Google көрінбейтін SynthID және C2PA шығу тегі метадеректерін пайдалануды жалғастырады.

Екі деңгейлі модель шығады: адам кәсіби пайдалануға кедергі келтіретін визуалды белгіні алып тастай алады, бірақ машинамен тексерілетін шығу тегі ізі сақталады.

Басты сұрақ енді басталады

Бүгінде мәтін сирек бір тәсілмен жасалады.

Адам жоба жазады → ЖИ-ден оны қысқартуды сұрайды → жартысын өз бетімен қайта жазады → корректормен өткізеді → тағы түзетулер енгізеді.

Қай сәтте мұндай мәтін «ЖИ жасаған» болып саналады?

Бір түзетілген сөйлемнен кейін бе?

Өзгерістердің 10%-ынан кейін бе?

30%-ынан кейін бе?

Әлде құжат модель арқылы өткенінің өзін жеткілікті ме?

Watermarking-де әзірге жақсы жауап жоқ.

Сондықтан Claude төңірегіндегі дау Anthropic-тің бір функциясынан әлдеқайда шығады.

Индустрия біртіндеп «адам ба, әлде ЖИ ме?» деген бинарлы сұрақтан контенттің шығу тегі туралы күрделірек сұраққа көшуде:

материалды кім жасады, қандай құралдар қатысты және олардың әрқайсысы нәтижеге қаншалықты әсер етті.

Мүмкін, дәл provenance — контенттің шығу тегі мен түрлендіру тарихы — генеративті ЖИ-дің негізгі стандарттарының біріне айналар.