آیفون به‌جای محو کردن چهره، صورت جدید ساخت

در نخستین نسخه آزمایشی توسعه‌دهندگان آی‌اواس ۲۷، ابزار پاک‌سازی اپل که پیش‌تر برای حذف اشیای اضافی و محو کردن چهره‌ها در تصاویر استفاده می‌شد، در برخی موارد به‌جای حفاظت از هویت افراد، چهره‌ای تازه و ساختگی برای آن‌ها ایجاد می‌کند؛ موضوعی که هم جنبه طنزآمیز دارد و هم نگرانی‌هایی درباره خطاهای هوش مصنوعی و حریم خصوصی کاربران ایجاد کرده است.

به گزارش توسعه برند؛ اپل قابلیت «پاک‌سازی» را با به‌روزرسانی آی‌اواس ۱۸.۱ به آیفون اضافه کرد. هدف اصلی این ابزار، حذف اشیای ناخواسته از تصاویر بود، اما کاربران می‌توانستند از آن برای پنهان کردن چهره افراد در عکس‌ها نیز استفاده کنند. کافی بود کاربر دور چهره موردنظر را مشخص کند تا ابزار به‌صورت خودکار آن را محو کند؛ قابلیتی که اپل آن را در قالب حفاظت از هویت معرفی کرده بود.

اکنون با به‌روزرسانی آی‌اواس ۲۷، اپل این ابزار را هوشمندتر کرده تا بتواند صحنه‌های پیچیده‌تری را نیز پاک‌سازی کند. با این حال، در نخستین نسخه آزمایشی توسعه‌دهندگان، قابلیت پنهان کردن چهره‌ها آن‌طور که انتظار می‌رود عمل نمی‌کند و در برخی موارد رفتاری عجیب از خود نشان می‌دهد.

وقتی آیفون چهره را محو نمی‌کند

نویسنده گزارش می‌گوید این مشکل را به‌صورت تصادفی کشف کرده است. او هنگام آماده‌سازی یک تصویر برای انتشار، قصد داشته چهره فردی را محو کند. پس از باز کردن عکس، ابزار پاک‌سازی را انتخاب کرده و مانند گذشته دور چهره موردنظر را مشخص کرده است.

در تلاش‌های اولیه، آیفون پیامی نمایش داده که نشان می‌داد «حفاظت از هویت» اعمال شده است؛ اما در تصویر، چهره همچنان به‌وضوح قابل مشاهده بود. پس از آن، نویسنده به‌جای مشخص کردن دور چهره، با انگشت روی صورت را رنگ‌آمیزی کرده است. در این مرحله اتفاق عجیبی رخ داده است.

به‌جای آنکه چهره محو یا حذف شود، آیفون یک چهره کاملاً جدید برای فرد داخل عکس ساخته است. این چهره تازه آن‌قدر طبیعی و باورپذیر بوده که اگر تصویر برای دیگران ارسال می‌شد، احتمالاً متوجه نمی‌شدند صورت اصلی فرد با چهره‌ای تولیدشده توسط هوش مصنوعی جایگزین شده است.

تکرار مشکل در تصاویر مختلف

برای اطمینان از اینکه این اتفاق فقط یک مورد تصادفی نبوده، آزمایش روی چند تصویر از افراد مختلف تکرار شده است. نتیجه در همه موارد مشابه بوده است؛ اگر دور چهره مشخص می‌شد، آیفون اعلام می‌کرد که چهره محو شده، در حالی که همچنان قابل مشاهده بود. اما اگر کاربر روی چهره را رنگ‌آمیزی می‌کرد، ابزار پاک‌سازی یک صورت کاملاً جدید ایجاد می‌کرد.

نویسنده گزارش تأکید می‌کند که این نسخه، نخستین نسخه آزمایشی توسعه‌دهندگان است و وجود خطا در آن طبیعی به نظر می‌رسد؛ اما این مورد را صرفاً یک اشکال معمولی نمی‌داند، بلکه آن را نمونه‌ای از «توهم هوش مصنوعی» توصیف می‌کند.

به گفته او، از آنجا که اپل برای آموزش مدل‌های بنیادین خود از مدل‌های هوش مصنوعی جمینای گوگل نیز بهره می‌برد، ممکن است برخی ضعف‌های رایج این مدل‌ها، از جمله تولید نتایج غیرواقعی یا ساختگی، در ابزارهای اپل نیز دیده شود.

کاربران فعلاً چه کار کنند؟

نکته امیدوارکننده این است که این مشکل در نخستین نسخه آزمایشی توسعه‌دهندگان مشاهده شده و احتمال زیادی وجود دارد که اپل پیش از انتشار نسخه آزمایشی عمومی در ماه ژوئیه آن را برطرف کند.

اگر کاربران برای محو کردن چهره‌ها و حفاظت از حریم خصوصی به این قابلیت وابسته هستند، توصیه می‌شود فعلاً از نصب نسخه آزمایشی آی‌اواس ۲۷ خودداری کنند و روی آی‌اواس ۲۶ باقی بمانند؛ جایی که قابلیت محو کردن چهره‌ها همچنان مطابق انتظار کار می‌کند.

کاربرانی هم که هم‌اکنون از آی‌اواس ۲۷ استفاده می‌کنند و نیاز دارند چهره‌ای را در تصویر پنهان کنند، بهتر است فعلاً از روش‌های ساده‌تر و مطمئن‌تر مانند قرار دادن شکلک روی چهره استفاده کنند.

نویسنده گزارش اعلام کرده که این مشکل را از طریق برنامه بازخورد به اپل گزارش داده و از سایر کاربران نیز خواسته است در صورت مشاهده چنین موردی، آن را گزارش کنند. هرچه تعداد گزارش‌ها بیشتر باشد، احتمال رفع سریع‌تر این خطا پیش از انتشار عمومی افزایش می‌یابد.

ابزاری که قرار است از حریم خصوصی کاربران محافظت کند، نباید به‌جای پنهان کردن چهره، افراد جدیدی خلق کند؛ موضوعی که انتظار می‌رود اپل در به‌روزرسانی‌های بعدی آن را اصلاح کند.