تشخیص عکس واقعی از جعلی آسانتر شد؛ OpenAI ابزار جدیدی معرفی کرد
شرکت OpenAI با معرفی ابزار جدیدی برای بررسی منشأ تصاویر، تلاش کرده تشخیص عکسهای واقعی از تصاویر ساختهشده با هوش مصنوعی را سادهتر کند. این ابزار که با همکاری گوگل توسعه یافته، با استفاده از متادیتا و واترمارکهای نامرئی میتواند به کاربران کمک کند بفهمند یک تصویر توسط مدلهای AI تولید شده یا خیر.
به گزارش توسعه برند؛ شرکت OpenAI گام جدیدی در مسیر شفافسازی محتوای تولیدشده با هوش مصنوعی برداشته و از راهاندازی ابزار عمومی تأیید تصویر خبر داده است. این ابزار که از طریق وبسایت رسمی شرکت در دسترس قرار گرفته، به کاربران امکان میدهد منشأ تصاویر را بررسی کنند و متوجه شوند آیا عکس موردنظر با مدلهای AI ساخته شده یا خیر.
بر اساس اعلام رسمی، تمامی تصاویر تولیدشده توسط مدلهای تصویری OpenAI از سال ۲۰۲۴ به بعد دارای Content Credentials هستند؛ نوعی متادیتای استاندارد که اطلاعاتی درباره نحوه تولید تصویر و مدل سازنده آن ارائه میدهد. این استاندارد مبتنی بر چارچوب جهانی C2PA است که با هدف افزایش شفافیت در فضای دیجیتال توسعه یافته است.
همزمان، OpenAI همکاری تازهای با گوگل را آغاز کرده تا فناوری SynthID نیز به تصاویر تولیدی اضافه شود. SynthID یک واترمارک نامرئی است که در بافت تصویر جاسازی میشود و حتی در صورت حذف متادیتا یا بارگذاری مجدد فایل، امکان شناسایی محتوای تولیدشده با هوش مصنوعی را فراهم میکند.
“”توسعه برند را در بله و سروش پلاس دنبال کنید””
در توضیحات این پروژه آمده است:
«اگر هیچ متادیتا یا واترمارکی یافت نشود، ابزار نمیتواند با قطعیت درباره واقعی بودن تصویر اظهارنظر کند؛ زیرا حذف یا تغییر این اطلاعات همچنان ممکن است.»
کارشناسان فناوری این اقدام را گامی مهم در مقابله با گسترش تصاویر جعلی میدانند؛ تصاویری که میتوانند در حوزههایی مانند اخبار، سیاست، تبلیغات و شبکههای اجتماعی تأثیرات گستردهای بر افکار عمومی بگذارند.
با افزایش توان مدلهای مولد تصویر، تمایز میان عکس واقعی و تصویر ساختهشده با AI روزبهروز دشوارتر میشود. اکنون OpenAI و گوگل تلاش میکنند با ایجاد یک استاندارد قابلاعتماد، بخشی از بحران اعتماد دیجیتال را مدیریت کنند؛ هرچند پذیرش گسترده این فناوری در سطح صنعت همچنان چالش اصلی پیش رو خواهد بود.
