هوش مصنوعی گوگل تصاویر خصوصی کاربران را ریپورت کرده و آن‌ها را ممنوع می‌کند

منبع: https://toranji.ir/2022/08/30/%D9%87%D9%88%D8%B4-%D9%85%D8%B5%D9%86%D9%88%D8%B9%DB%8C-%DA%AF%D9%88%DA%AF%D9%84-%D8%AA%D8%B5%D8%A7%D9%88%DB%8C%D8%B1-%D8%AE%D8%B5%D9%88%D8%B5%DB%8C-%DA%A9%D8%A7%D8%B1%D8%A8%D8%B1%D8%A7%D9%86-%D8%B1/

مارک در یک شرکت بزرگ حوزه فناوری به عنوان مهندس نرم‌افزار برای ابزار خودکاری که برای حذف محتوای ویدیویی که توسط کاربران به‌ عنوان موارد مشکل‌ساز علامت گذاری شده بود، کار می‌کرد. او می‌داند که برای اطمینان از اینکه هوش مصنوعی اشتباه نکند، معمولا یک فرآیند بررسی انسانی نیز وجود دارد. بنابراین، در ابتدا، مارک چندان نگران نبود. او احساس می‌کرد که تا زمانی که وارد مرحله بازبینی دستی شود، می‌تواند حساب خود را بازیابی کند. در غیر این صورت، او برای همیشه از زندگی دیجیتال قبلی خود جدا خواهد شد. او درخواستی را پر کرد و موضوع عفونت پای پسرش را به گوگل توضیح داد و از این شرکت خواست که این تصمیم را مجددا بررسی کند.

موارد فاجعه بارتری هنوز در راه است. این شخص که مارک نام دارد، کاربر گوگل است و برای همه چیز از همگام سازی برنامه‌های روزانه تا پشتیبان گیری از عکس‌ها و ویدیوها به حساب جیمیل خود متکی است. اما به دلیل این مشکل مضحک، حساب‌های وی یکی پس از دیگری بسته شدند. او توسط گوگل از استفاده از کل ابزارهای این شرکت مسدود شده است.

بنا به درخواست پزشک اطفال، پدر کودک دیگری با استفاده از گوشی اندرویدی خود از عفونت اعضا احشایی نوزادش عکس می‌گیرد. از تصاویر به‌طور خودکار در Google Cloud، فایل پشتیبان‌ گرفته شد و سپس او از Google Chat برای ارسال تصاویر برای مادر کودک استفاده کرد. نتایج به طور قابل توجهی مشابه بود و اکانت جیمیل این شخص نیز غیرفعال شد. وی به خاطر این مشکل تقریبا در تمام ابعاد زندگی کاری‌اش با مشکل روبرو شده بود، زیرا آدرس ایمیلی نداشت.

پس از بررسی‌های گسترده، پلیس به این نتیجه می‌رسد که این ماجرا اصلا کودک آزاری یا استثمار و بهره‌کشی جنسی از کودکان نبوده است. اما پلیس نتوانست مستقیما با گوگل ارتباط برقرار کند تا بی گناهی مارک را به آن‌ها اعلام کند. مارک بعدا یک گزارش به پلیس ارائه کرد و دوباره به گوگل مراجعه نمود، اما این بار هم فایده‌ای نداشت. به طور اتفاقی، این مشکل یک روز پس از غیرفعال شدن حساب مارک، یک مورد مشابه دیگر در تگزاس و برای شخص دیگری نیز رخ داده است.

هوش مصنوعی گوگل میلیون‌ها بار در سال، سوء استفاده جنسی از کودکان را گزارش می‌کند

یک مورد ایجاد شده توسط یک مشاوره آنلاین پزشکی نیز توجه زیادی به خود جلب کرده است. بر اساس گزارش‌ها، والدین نگران تورم کشاله ران و درد غیرقابل تحمل پسرشان بودند. قبل از دریافت مشاوره پزشکی ویدئویی روز بعد، همسر این فرد چندین عکس با وضوح بالا از عفونت کشاله ران پسرش گرفت. این تصاویر در نهایت بنا به پیشنهاد پرستار در سامانه بیمه درمانی آپلود شد. برای تسهیل تشخیص اولیه پزشک بر اساس عکس‌ها، پدر بچه هنگام عکس گرفتن همسرش با انگشتش به ناراحتی پسرش اشاره کرد. با کمک عکس‌ها، پزشک مشکل وی را تشخیص داد و آنتی بیوتیک برای وی تجویز کرد.

وی فورا به این تصمیم اعتراض کرده، اما گوگل نه تنها با بی توجهی آن را رد کرده است، بلکه سایر ویدیوها و عکس‌های او را نیز علامت گذاری کرده است. به همین دلیل این شخص از اداره پلیس سانفرانسیسکو تحقیقاتی را آغاز کرد. بحث‌های طولانی و زیادی در مورد این موضوع در توییتر انجام شده است. در حالی که برخی ادعا می‌کنند که این تجاوز به حریم خصوصی است، برخی دیگر می‌گویند که ترجیح می‌دهند سختگیرانه با این موضوع برخورد کنند تا از محرومیت گوگل رها شوند. یک متخصص زنان از برخی تصاویری که برای کارش نیاز دارد ابراز نگرانی کرده است.

هنگام بررسی، غول‌های فناوری معمولا از دو ابزار استفاده می‌کنند که یکی از آن‌ها PhotoDNA است که توسط مایکروسافت در سال ۲۰۰۹ منتشر شد. این ابزار یک پایگاه داده‌ از عکس‌های کودک آزاری ایجاد کرده و عکس‌های موجود در آلبوم الکترونیکی هر فرد را با عکس‌های موجود در آن پایگاه داده مقایسه می‌کند. حتی اگر عکس‌ها کمی متفاوت باشند، می‌تواند کاربرانی را پیدا کند که تصاویر کودک آزاری را منتشر می‌کنند. امثال فیس بوک، توییتر و ردیت همگی از PhotoDNA استفاده می‌کنند.

در سال ۲۰۲۱، گوگل بیش از ۶۲۰.۰۰۰ گزارش از کودک آزاری‌های ریپورت شده ارائه کرد. این شرکت مجبور شد حساب بیش از ۲۷۰.۰۰۰ کاربر را غیرفعال کند. همچنین به ۴۲۶۰ قربانی بالقوه کودک آزاری جنسی به مقامات هشدار داد. البته این شامل دو پدری می‌شود که در بالا اشتباه گوگل نسبت به آن‌ها اشاره کردیم. غول‌های فناوری که حجم زیادی از داده‌ها را جمع‌ آوری می‌کنند، به عنوان یک ناظر عمل کرده و محتوا را برای نظارت و پیشگیری از جرم بررسی می‌کنند.

مورد دیگر نیز، Developer Toolkit Content Safety API است که توسط گوگل در سال ۲۰۱۸ منتشر شد. این ابزار از شبکه‌های عصبی عمیق برای پردازش تصاویر استفاده می‌کند و به سانسورچی‌ها اجازه می‌دهد تا ۷۰۰ درصد تصاویر کودک آزاری بیشتری را در همان زمان پردازش کنند. گوگل خود از این جعبه ابزار هوش مصنوعی استفاده می‌کند و همچنین آن را به صورت متن باز برای فیس بوک و دیگران منتشر کرده است. روند کلی بررسی تصاویر توسط این ابزار هوش مصنوعی به شرح زیر است:

• • ابتدا تصاویر کاربران به‌ طور خودکار در Google Cloud پشتیبان‌گیری می‌شوند و برای بررسی دستی علامت گذاری می‌شوند
• • سپس بررسی انسانی برای تایید اینکه این عکس‌ها با تعریف تصاویر کودک آزاری مطابقت دارند انجام می‌شود
• • در صورت تایید، حساب کاربری آن‌ها قفل شده و به جستجوی سایر تصاویر کودک آزاری در حساب آن‌ها ادامه خواهد داد
• • در نهایت، یک گزارش به CyberTipline یا مرکز ملی کودکان ناپدید شده و مورد استثمار (NCMEC) ارائه می‌شود

هوش مصنوعی یکی از ابداعات بشر برای بالا بردن سرعت پردازش داده‌ها و انجام کارهای تکراری و زمان‌بر است. با وجود اینکه هوش مصنوعی در انجام این وظایف بسیار عالی عمل کرده است، اما مواردی از مشکلات آن هم رخ می‌دهد. اخیرا برخی گزارش داده‌اند که هوش مصنوعی گوگل تصاویر خصوصی کاربران را ریپورت کرده و آن‌ها را ممنوع می‌کند. با ictnn همراه باشید.

هوش مصنوعی گوگل تصاویر خصوصی کاربران را ریپورت کرده و آن‌ها را ممنوع می‌کند؛ دلیل چیست؟

آن‌ها هر سال تصاویری از کودکانی که میلیون‌ها بار مورد استثمار یا آزار جنسی قرار گرفته‌اند را علامت گذاری می‌کنند. اما بازرسی محتوا ممکن است نیازمند نگاه کردن به آرشیوهای خصوصی باشد، مانند نگاه کردن به آلبوم های عکس دیجیتال شما. این دو پدر انتظار چنین چیزی را نداشتند، بنابراین جستجوی مراقبت‌های پزشکی در گوگل به آزار جنسی کودکان برای آن‌ها تبدیل شد.

پلیس هیوستون او را برای بررسی و تحقیق بیشتر به اداره پلیس دعوت کرد و وی پس از نشان دادن گزارش چت با پزشک اطفال به سرعت آزاد شد. پلیس او را بی گناه تشخیص داد، اما گوگل این کار را نکرد. اگرچه او یک کاربر ۱۰ ساله گوگل با حساب پولی است، اما هنوز نمی‌تواند آن را بازیابی کند. اکنون، پدر کودک از یک آدرس هات‌میل ایمیل بفرستد و بی‌رحمانه توسط گوگل با وی برخورد شود.