گوگل تصاویر تولید شده توسط هوش مصنوعی را برچسبگذاری میکند
گوگل تصاویر تولید شده توسط هوش مصنوعی را برچسبگذاری میکند
بر اساس گزارشات، شرکت گوگل اعلام کرد در چارچوب تلاش برای جلوگیری از انتشار اطلاعات نادرست، ابزاری را در دست راهاندازی دارد که تصاویر تولید شده توسط کامپیوتر را شناسایی میکند و برچسب میزند.
این فناوری که «سینت آیدی» (SynthID) نام دارد، تصاویر تولید شده توسط هوش مصنوعی را تشخیص میدهد و همچنین با اعمال تغییراتی ظریف در پیکسلهای تصاویر آنها را علامتگذاری میکند. این تغییرات که البته برای چشم انسان نامرئی هستند، حتی در صورت برش عکس و اعمال فیلترهای اضافی نظیر تغییر رنگ یا تنظیم روشنایی تصویر باز هم قابل تشخیص توسط سیستم هستند.
ابزار توسعهیافته از طریق گوگل میتواند تصاویر دریافتی را اسکن کند و با همین شیوه برچسبی شامل سه سطح اطمینان به آنها اختصاص دهد.
سینت آیدی که در این مرحله در نسخه بتا به طور محدود عرضه شده است، از طریق پلتفرم هوش مصنوعی مولد گوگل برای توسعه دهندگان در دسترس قرار گرفته است. این ابزار که توسط واحد شبکه عصبی دیپمایند گوگل توسعه یافته، به زودی در دیگر سرویسهای گوگل نیز استفاده می شود.
در سالهای اخیر و با رواج فزاینده تصاویر و ویدیوهای دیپفیک (جعل عمیق) و ویرایش شده، شرکتهای فناوری در حال تلاش هستند تا راهی مطمئن برای شناسایی و پرچمگذاری محتوای دستکاری شده پیدا کنند. در واقع آنان سعی میکنند تمایز میان واقعیت و آنچه واقعی نیست را برای کاربران تسهیل کنند.
در ماههای گذشته تصاویر جعلی ایجاد شده توسط هوش مصنوعی از دستگیری دونالد ترامپ رئیسجمهور سابق آمریکا با لباس زندان به طور گستردهای بین کاربران به اشتراک گذاشته شد و بسیاری به اشتباه تصور کردند که این عکسها واقعی هستند.