كيف تعرف ما إذا كان النص مكتوبًا بواسطة الذكاء الاصطناعي أو الروبوت؟

منذ متى الذكاء الاصطناعي تم دمجه في الأداة GPT-2، فوجئ الكثيرون بالقدرة على إنشاء نصوص. الأداة التي تم إنشاؤها بواسطة OpenAI، حتى أنه أنشأ نصًا خياليًا أظهر اكتشاف العلماء وحيد القرن. لكن الاستخدام الواسع للنصوص التي صنعتها الروبوتات ، انتهى به الأمر إلى إثارة الجدل: كيف تعرف ما إذا كان النص مكتوبًا بالفعل بواسطة الذكاء الاصطناعي؟

تهدف إلى برمجة خوارزمية قادرة على تحقق مما كان كتبه منظمة العفو الدولية، فريق من العلماء من معهد ماساتشوستس للتكنولوجيا (MIT)) طور نظام يسمى GLTR. لكن معهد ماساتشوستس للتكنولوجيا ليس وحده في هذا السباق.

تبحث أيضًا عن مسطرة لتحديد ما يتم إنتاجه أو لا يتم إنتاجه بواسطة الخوارزميات الذكية ، فإن OpenAI أطلقت ميزة جديدة في نظام ChatGPT في 31 يناير. الآن ، يمكن لأي شخص يستخدم منتج النص الآلي تحديد الخيار أداة المصنف (أداة التصنيف) للتحقق من نصوص الذكاء الاصطناعي.

ظهور ChatGPT: كيف ظهرت النصوص الآلية

لفهم أين شات جي بي تي، يحتاج الأشخاص إلى معرفة المؤسسة التي تقف وراء التطبيق. تم إنشاؤه في عام 2015 ، وكان OpenAI التي بدأت في إنشاء الخوارزمية ، والتي أصبح لها اليوم منصب الرئيس التنفيذي سام التمان. تهدف الشركة إلى إجراء بحث متقدم في الذكاء الاصطناعي. الافراج عن الدردشة تم عقده في 30 نوفمبر 2022 ، وهو مصمم للإجابة على العديد من أسئلة المستخدمين.

"تم تصميم [ChatGPT] للإجابة على الأسئلة ، والتعرف على الأخطاء ، وتحديد الافتراضات غير الصحيحة ، ورفض الطلبات غير الملائمة."

افتح AI لمعرفة كيفية عمل الدردشة مع الذكاء الاصطناعي

هناك أتمتة أخرى مماثلة تم إنشاؤها بواسطة OpenAI. الأمثلة هي تعليمات، والتي تهدف إلى توفير الإرشادات والإجابات للمستخدمين و DALL · E، القادر على توليد الصور بناءً على طلب المستخدم.

وإدراكًا منها أن أداة إنشاء النص المؤتمتة يمكن أن تزيد من إنتاج المعلومات الخاطئة ، قررت الشركة إجراء تغيير. بالإضافة إلى الإعلان عن أداة التصنيف OpenAI حذر من أن استخدام ChatGPT قد يمثل تهديدًا إذا تم استخدامه لإنشاء أخبار مزيفة.

كيف يعمل تقييم النصوص المكتوبة بواسطة الذكاء الاصطناعي

يا مشروع GPZero كان له وظيفة التحقق من تأليف النصوص التي قدمتها منظمة العفو الدولية. بشكل أساسي ، تقوم الخوارزمية بتقييم ما إذا كان هناك تأليف لملف شات جي بي تي في النصوص التي تم تحليلها. أيضًا ، يرى التطبيق ما إذا كان ملف النص له تعقيد واختلافات في الجمل ، من خلال العمليات الحسابية. مخترع التطبيق هو إدوارد تيان ، 22 عامًا ، طالب في جامعة برينستون، في الولايات المتحدة الأمريكية. بالإضافة إلى تطوير طرق الحساب ، قام ببناء الخوارزمية باستخدام Python باستخدام مكتبة Streamlit.

في مقابلة مع الجارديان، تيان لاحظ أنه بدون مصلحة شركات التكنولوجيا الكبيرة ، من الصعب إيقاف استخدام ChatGPT في الانتحال. فيما يتعلق بالدافع ، ذكر أن الفكرة كانت تجنب استخدام برامج تمكنت من التملص من أجهزة الكشف عن النسخ غير الصحيحة.

كيف تعمل أداة التصنيف OpenAI، بدورها ، لديها بعض القيود. بالإضافة إلى ذلك ، يخضع لبعض الاختبارات وطريقة إنشائه تتضمن التعلم الآلي. في هذه المرحلة ، تمت مقارنة النص الذي كتبه الذكاء الاصطناعي بالإنتاجات التي صنعها البشر ، والتي تتناول نفس الموضوع.

كشف النص المكتوب بالذكاء الاصطناعي في GPTZero

الأداة التي أنشأتها معهد ماساتشوستس للتكنولوجيا يمكن التحقق من التأليف الآلي من خلال تقنية بسيطة. أي أنه يتبع المسار الذي أنشأه GPT-2 لإنتاج النصوص: معرفة الكلمات التي من المرجح أن تأتي مباشرة بعد كل كلمة. لذلك GLTR يتحقق مما إذا كان ما تم كتابته تم تنفيذه بالفعل بواسطة أ بوت.

O GLTR يُظهر للمستخدمين ما إذا كان نصًا مكتوبًا بواسطة الذكاء الاصطناعي من خلال إشارة بسيطة. إذا كان لديك مشاركة خوارزمية مثل GPT-2، يظهر النص باللون الأخضر. تُظهر الألوان الأخرى ، مثل البنفسجي والأحمر والأصفر ، أنه من المرجح أن يكون النص قد تم إنشاؤه بواسطة ملف الإنسان.

إن افتراض الكلمات التي يمكن أن تأتي واحدة تلو الأخرى هو العامل الحاسم في تمرير النص كما هو مكتوب من قبل الإنسان. لكن العلماء الذين أنشأوا GLTR تشير إلى أن عدم القدرة على التنبؤ هو بالضبط ما يمنع النص المكتوب IA لا يمكن ملاحظته.

"الكتابة العادية ، في الواقع ، غالبًا ما تختار كلمات غير متوقعة تكون أكثر منطقية مع موضوع النص. وهذا يعني أنه يمكننا التحقق مما إذا كان من المرجح أن يأتي النص فعليًا من إنسان ".

العلماء المسؤولون عن خوارزمية GLTR لموقع Futurism

ومع ذلك ، فإن التكنولوجيا GLTR يحتاج إلى إجراء تحسينات. في بعض الأحيان ، يمكن أن يكون النص من صنع الإنسان ، لكن الخوارزمية تتهم خطأً أنه من صنع شخص ما. بوت. بهذه الطريقة ، سيكون التحقق من حدوث نصوص الذكاء الاصطناعي مهمة ستحتاج إلى المزيد من الأدوات.

أداة تصنيف OpenAI في ChatGPT

A أداة المصنف لديه قيود على التحقق من التأليف الآلي أو العضوي للإنتاج النصي لما لا يقل عن ألف حرف. الحل ، الذي تم إنشاؤه من تدريب الآلة ، لا يزال بحاجة إلى إجراء بعض التعديلات ، لأنه لا يزال يخلط بين ما كتبه IA بما ينتجه بعض البشر.

"في تقييماتنا ، مع مجموعة من النصوص الإنجليزية ، يحدد المصنف بشكل صحيح 26٪ من النصوص المكتوبة بالذكاء الاصطناعي (الاختبارات الحقيقية) على أنها" ربما تكون مكتوبة بالذكاء الاصطناعي "، بينما يحدد بشكل غير صحيح النصوص التي ينتجها الإنسان على أنها من صنع الإنسان. ٪ من الوقت (ايجابيات كاذبة) ".

OpenAI

هناك خطر إضافي على رادار شركة الذكاء الاصطناعي. في النهاية ، يمكن إعادة تكييف النصوص ذات الإنتاج الآلي من قبل الطلاب الذين يسعون للعثور على أنماط في المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي وتعلم كيف تخدعهم. بهذه الطريقة ، فإن ملف OpenAI تقول بالفعل أنه ، في الوقت الحالي ، لا يزال من الممكن استخدام ميزة التصنيف الجديدة لتحديد ما إذا كان الإنتاج يأتي من الروبوت ، على سبيل المثال. من المتوقع أن تكون الشركة قادرة على تحقيق المزيد من التقدم في هذا التحدي في المستقبل القريب.

انظر أيضا: ينجح موقع ChatGPT في اجتياز امتحانات ماجستير إدارة الأعمال والقانون والطب في الولايات المتحدة.

فونتيس: الجارديان | أبحث في الكاميرا | PC ماج | مستقبلية | عقبة.

تمت مراجعته من قبل Glauco