امروز:23 خرداد 1403

ابزار جدید OpenAI ممکن است به شما کمک کند متن نوشته شده توسط ChatGPT را شناسایی کنید

OpenAI ابزاری را منتشر کرده است که به شما کمک می کند تعیین کنید آیا متن به احتمال زیاد توسط انسان نوشته شده است یا هوش مصنوعی. با این حال، سازنده ChatGPT هشدار می دهد که معادل آن از تست Voight-Kampff Blade Runner نیز می تواند آن را اشتباه کند.

این ابزار شامل کادری است که می توانید متنی با حداقل 1000 کاراکتر در آن جایگذاری کنید. سپس حکمی مانند «طبقه‌بندی‌کننده متن را بسیار بعید می‌داند که توسط هوش مصنوعی تولید شده است» یا «طبقه‌بندی‌کننده متن را احتمالاً با هوش مصنوعی تولید می‌کند» منتشر می‌کند.

من آن را با تشویق ChatGPT برای نوشتن مقاله ای در مورد الگوهای مهاجرت پرندگان آزمایش کردم، که ابزار تشخیص آن را به عنوان “احتمالاً توسط هوش مصنوعی تولید شده” توصیف کرد. در همین حال، چندین مقاله نوشته شده توسط انسان را “بسیار بعید تولید شده توسط هوش مصنوعی” ارزیابی کرد. بنابراین اگرچه این ابزار می‌تواند پرچم‌های کاذب را در هر جهت بالا ببرد، آزمایش من (اندازه نمونه کوچک) حداقل درجه‌ای از دقت را نشان می‌دهد. با این حال، OpenAI هشدار می دهد که از ابزار به تنهایی برای تعیین صحت محتوا استفاده نکنید. همچنین با متن 1000 کلمه یا بیشتر بهترین کار را دارد.

این استارت‌آپ پس از انتشار ابزار ChatGPT خود در نوامبر، که محتوای نوشته‌شده با هوش مصنوعی را تولید می‌کند، از سوی مربیان تحت فشار قرار گرفته است. مدل زبان طبیعی می‌تواند در چند ثانیه مقالاتی را بر اساس پیام‌های متنی ساده ایجاد کند – حتی با قبولی در آزمون کارشناسی ارشد بازرگانی و حقوق – و در عین حال فرصت‌های وسوسه‌انگیز جدید تقلب را برای دانش‌آموزان فراهم می‌کند. در نتیجه، مدارس دولتی نیویورک ربات را از شبکه های WiFi و دستگاه های مدرسه خود ممنوع کردند.

اسکرین شات جعبه ای با متن تولید شده با هوش مصنوعی در یک وب سایت OpenAI که سعی می کند تعیین کند آیا متن توسط ChatGPT نوشته شده است یا خیر. نتیجه بیان می کند که “احتمالاً توسط هوش مصنوعی تولید شده است.”
OpenAI
در حالی که ورود ChatGPT اخیراً موضوعی پر سر و صدا بوده است، حتی به رسانه‌هایی که مشتاق خودکار کردن مقالات سئو هستند، گسترش یافته است، این ربات تجارت بزرگی برای OpenAI است. طبق گزارش ها، این شرکت در اوایل این ماه سرمایه گذاری 10 میلیارد دلاری را از مایکروسافت تضمین کرد، که قصد دارد آن را با بینگ و آفیس 365 ادغام کند. ظاهراً OpenAI در اواخر سال گذشته درباره فروش سهام به ارزش 29 میلیارد دلار بحث کرده است که آن را به یکی از با ارزش ترین استارت آپ های ایالات متحده تبدیل می کند. .

اگرچه ChatGPT در حال حاضر بهترین مدل هوش مصنوعی با زبان طبیعی در دسترس عموم است، گوگل، بایدو و دیگران در حال کار بر روی رقبا هستند. LaMDA گوگل به اندازه کافی متقاعد کننده است که یک محقق سابق سال گذشته با ادعای اینکه چت بات حساس است، کار خود را با غول جستجو کنار گذاشت. (تمایل انسان به طرح احساسات و آگاهی بر روی الگوریتم‌ها مفهومی است که احتمالاً در سال‌های آینده درباره آن بسیار خواهیم شنید.) گوگل تنها نسخه‌های بسیار محدودی از چت بات خود را در نسخه بتا منتشر کرده است، احتمالاً به دلیل نگرانی‌های اخلاقی. با بیرون آمدن جن از بطری، جالب است که ببینیم این محدودیت چقدر طول می کشد.