Google Photos می تواند اعتبار تصویر هوش مصنوعی را برای محافظت از کاربران در برابر موارد Deepfakes نشان دهد.

Google Photos در حال افزودن قابلیت جدیدی است که به کاربران امکان می دهد بررسی کنند که آیا تصویری با استفاده از هوش مصنوعی (AI) ایجاد شده یا بهبود یافته است یا خیر. طبق این گزارش، سرویس اشتراک‌گذاری و ذخیره‌سازی عکس و ویدیو در حال دریافت برچسب‌های منبع ID جدید است که اطلاعات هوش مصنوعی تصویر و همچنین نوع منبع دیجیتال را نشان می‌دهد. غول فناوری مبتنی بر Mountain View احتمالاً روی این ویژگی کار می کند تا موارد دیپ فیک را کاهش دهد. با این حال، نحوه نمایش اطلاعات به کاربران مشخص نیست.

Google Photos AI Attribution

دیپ فیک به عنوان شکل جدیدی از دستکاری دیجیتال در سال های اخیر ظهور کرده است. اینها تصاویر، ویدیوها، فایل‌های صوتی یا سایر رسانه‌های مشابه هستند که یا به‌صورت دیجیتالی با استفاده از هوش مصنوعی تولید شده‌اند یا با استفاده از ابزارهای مختلف برای انتشار اطلاعات نادرست یا گمراه کردن مردم بهبود یافته‌اند. به عنوان مثال، بازیگر آمیتاب باچان اخیراً علیه مالک یک شرکت به دلیل اجرای تبلیغات ویدیویی دیپ فیک که در آن بازیگر در حال تبلیغ محصولات شرکت دیده می شد، شکایت کرد.

بر اساس گزارش Android Authority، یک عملکرد جدید در برنامه Google Photos به کاربران این امکان را می‌دهد که ببینند آیا تصویری در گالری آنها با استفاده از ابزارهای دیجیتال ایجاد شده است یا خیر. این ویژگی در برنامه Google Photos نسخه 7.3 مشاهده شد. با این حال، این یک ویژگی فعال نیست، به این معنی که افرادی که در آخرین نسخه برنامه هستند، هنوز قادر به دیدن آن نیستند.

در فایل‌های طرح‌بندی، نشریه رشته‌های جدیدی از کد XML را پیدا کرد که به این توسعه اشاره دارد. اینها منابع ID هستند که شناسه هایی هستند که به یک عنصر یا منبع خاص در برنامه اختصاص داده شده اند. یکی از آنها ظاهراً حاوی عبارت “ai_info” بود که گمان می‌رود به اطلاعات اضافه‌شده به ابرداده‌های تصاویر اشاره دارد. اگر تصویر توسط یک ابزار هوش مصنوعی که به پروتکل های شفافیت پایبند است، تولید شده باشد، این بخش باید برچسب گذاری شود.

به غیر از آن، تگ “digital_source_type” به نام ابزار یا مدل هوش مصنوعی اشاره دارد که برای تولید یا بهبود تصویر استفاده شده است. اینها می توانند شامل نام هایی مانند Gemini، Midjourney و غیره باشند.

با این حال، در حال حاضر مشخص نیست که گوگل چگونه می خواهد این اطلاعات را نمایش دهد. در حالت ایده‌آل، می‌توان آن را به داده‌های فرمت فایل تصویر مبادله‌پذیر (EXIF) تعبیه‌شده در تصویر اضافه کرد تا راه‌های کمتری برای دستکاری در آن وجود داشته باشد. اما نقطه ضعف آن این است که کاربران نمی توانند به راحتی این اطلاعات را ببینند مگر اینکه به صفحه ابرداده مراجعه کنند. از طرف دیگر، این برنامه می‌تواند یک نشان روی تصویر برای نشان دادن تصاویر هوش مصنوعی، مشابه آنچه متا در اینستاگرام انجام داد، اضافه کند.

منبع