گوگل جمینی برای ارتکاب جنایت استفاده می شود!

بیایید با خودمان روراست باشیم: صرف نظر از نگرانی‌های عملی که ممکن است موجه باشند، هوش مصنوعی بسیار جالب و جذاب است. حتی اگر فقط برای یک لحظه، فراموش کنیم که هوش مصنوعی ظاهراً به دنبال شغل مردم است یا جامعه را کمتر به ابتکار عمل خودمان وابسته می‌کند، به این موضوع پی می‌بریم که چقدر آینده‌نگرانه به نظر می‌رسد. چت‌بات‌ها و مدل‌های زبانی بزرگ مانند گوگل جیمینی و ChatGPT دروازه‌هایی به سوی کاربردهای منحصر به فرد هوش مصنوعی هستند و دیدن نحوه عملکرد داخلی آنها کمی ما را هیجان‌زده می‌کند.

اما به همان سادگی که می‌توانیم از جیمینی برای حل مسائل پیچیده ریاضی یا بهبود گرامر خود برای تحقیقات آماری ورزشی یا ایمیل‌های حرفه‌ای استفاده کنیم، این چت‌بات‌ها می‌توانند برای کاربردهای مخرب‌تر نیز استفاده شوند. این دقیقاً همان چیزی است که در حال وقوع است و چالش‌های جدیدی را برای مزایا و معایب استفاده از هوش مصنوعی در زندگی روزمره به وجود می‌آورد.

گروه تهدیدات گوگل در ۲۹ ژانویه در وبلاگ گوگل کلود مقاله‌ای در مورد سوء استفاده از قابلیت‌های هوش مصنوعی مولد جیمینی منتشر کرد. این مقاله جامع است و به بسیاری از داده‌ها می‌پردازد، از جمله بحث در مورد اینکه بازیگران اصلی در استفاده جنایی از جیمینی چه کسانی هستند و از کجا می‌آیند (از طریق Tech Radar).

گوگل متوجه شده است که گروه‌های جنایی تحت حمایت دولت از چین، روسیه، کره شمالی و ایران از جیمینی برای انجام شناسایی در مورد “اهداف احتمالی”، کمک به کدنویسی و عیب‌یابی، و دور زدن تشخیص و ارتقا سطح دسترسی استفاده می‌کنند. این یک بررسی عمیق و جذاب از نگرانی‌های بسیار واقعی در مورد اینکه چه کسانی به فناوری‌ای دسترسی دارند که در اصل، از نظر اخلاقی خنثی است.

جنایتکاران که از فناوری برای پیشبرد اهداف خود استفاده می‌کنند، هرگز متوقف نخواهند شد و این روند با گسترش استفاده از ابزارهای هوش مصنوعی ادامه خواهد یافت. دوران ایمیل‌های فیشینگ با کلمات نادرست به پایان رسیده است. در عوض، کلاهبرداری‌های هوش مصنوعی با استفاده از مواردی مانند شبیه‌سازی صدا، دیپ‌فیک، بررسی‌های تقلبی محصولات و آگهی‌های شغلی جعلی برای به دام انداختن قربانیان خود به وجود می‌آیند. مهم است که با یادگیری نحوه تشخیص تصاویر تولید شده توسط هوش مصنوعی، اجتناب از کلاهبرداری‌های شغلی آنلاین، تشخیص اینکه آیا با یک چت‌بات هوش مصنوعی صحبت می‌کنید یا خیر، و به طور کلی احتیاط بیشتر در فضای آنلاین، به هوش مصنوعی مسلط شوید.

در حالی که این مشکلات همچنان در حال مبارزه هستند، گوگل به انتشار به‌روزرسانی‌های جیمینی ادامه می‌دهد. جیمینی ۲.۰ فلش در حال حاضر برای همه، از جمله کاربران رایگان، در دسترس است و پاسخ‌های بهبود یافته‌ای را برای نوشتن، یادگیری و انجام وظایف طوفان فکری ارائه می‌دهد. روش‌های زیادی وجود دارد که استفاده از هوش مصنوعی می‌تواند زندگی روزمره ما را بدون زیاده‌روی ساده‌تر کند و چه بخواهیم چه نخواهیم، قطار از ایستگاه خارج شده است. هوش مصنوعی بخشی از زندگی ماست و به طور مداوم در همه جا تزریق خواهد شد، بنابراین یادگیری نحوه کار با آن به جای مقابله با آن، حیاتی خواهد شد.