امکان تشخیص متون جعلی با کمک ربات ها میسر شد هوش مصنوعی در مقابل هوش مصنوعی

به گزارش عاشق وب پژوهشگران به تازگی ابزاری را توسعه داده اند که با کمک فناوری هوش مصنوعی می تواند متون جعلی که توسط ربات ها نوشته شده را شناسایی کند. این ابزار کمک بزرگی به افراد در تشخیص اخبار جعلی خواهد نمود.
به گزارش عاشق وب به نقل از ایسنا، پژوهشگران “آزمایشگاه هوش مصنوعی واتسون آی. بی. ام موسسه ام.آی. تی” (MIT-IBM Watson AI) و “دانشگاه هاروارد” (Harvard University) در مطالعه اخیرشان موفق به توسعه ابزاری شده اند که با کمک هوش مصنوعی می تواند متون جعلی را که توسط انسان نوشته نشده را شناسایی کند.
ابزاری که پژوهشگران برای تشخیص متون جعلی توسعه داده اند “اتاق آزمایش مدل زبان غول پیکر ” (Giant Language Model Test Room یا GLTR) نام دارد و می تواند با کمک فناوری هوش مصنوعی متونی را که توسط ربات نوشته شده است تشخیص دهد.
به معنای دیگر ابزار مذکور می تواند به شما بگوید که آیا متنی که در حال خواندن آن هستید را یک انسان نوشته است یا خیر. طی این مطالعه، شرکت پژوهشی غیرانتفاعی “هوش مصنوعی باز”(Open AI) یک الگوریتمی را توسعه داد که قادر به درک مفاهیم به طرز شگفت آوری بود. آنها متون زیادی را به این الگویتم یادگیری ماشین وارد کردند که با استفاده از الگوهای خاصی قادر به تشیص کلمات بود. سپس پژوهشگران “آزمایشگاه هوش مصنوعی واتسون آی. بی. ام موسسه ام.آی. تی” و “دانشگاه هاروارد” ابزار آنها را توسط یک نسخه کدگذاری شده شرکت “هوش مصنوعی باز” توسعه دادند. ابزار “GLTR” کلمات مورد نظر را که از نظر آماری امکان دارد بعد از کلمه قبلی در متن ظاهر شود را برجسته و نمایان کرد.
همانطور که در تصویر بالا نشان داده شده، قابل پیشبینی ترین کلمات که توسط ربات نوشته شده سبز، کمتر قابل پیشبینی زرد و قرمز و کلماتی که کمترین احتمال پیشبینی دارند بنفش هستند. هنگامی که بخش هایی از متن نوشته شده توسط الگوریتم شرکت “هوش مصنوعی باز” مورد آزمایش قرار گرفت آنها دریافتند بخشی زیادی از این خبر توسط ربات نوشته شده است.
در گام بعدی پژوهشگران به منظور درک میزان دقت این ابزار آزمایش دیگری هم انجام دادند. آنها از دانشجویان دانشگاه هاروارد خواستند تا ابتدا بدون استفاده از این ابزار و سپس با کمک کلمات برجسته شده، متون نوشته شده توسط هوش مصنوعی را شناسایی کنند. دانشجویان توانستند تنها نیمی از متون جعلی را شناسایی کنند، این در شرایطی است که ابزار مذکور توانسته بود ۷۲ درصد از متون جعلی را شناسایی کند.
“سباستین گرمان”(Sebastian Gehrmann) دانشجوی مقطع دکترا که در این مطالعه حضور داشت اظهار داشت: هدف ما ایجاد سیستم هایی برای همکاری هوش مصنوعی و انسان است.