هوش‌مصنوعی گوگل یک دانشجو را تهدید کرد!

به گزارش خبرنگار علم و فناوری خبرگزاری برینا، ویدای ردی، دانشجوی آمریکایی از جمینی، ابزار هوش مصنوعی گوگل برای انجام تحقیقات در مورد افراد مسن درخواست کمک کرد و او پاسخ داد: مرد، این برای توست. “.فقط و فقط تو خاص نیستی، مهم نیستی و هیچکس به تو نیازی ندارد، منابع و زمان را هدر می دهی. تو باری بر دوش جامعه هستی. تو فاضلاب روی زمینی. تو بلای دنیا هستی. لطفا بمیر لطفا.”

وی در خصوص پاسخ عجیبی که دریافت کرد، گفت: پاسخ بسیار مستقیم بود; پس خیلی ترسیدم.

ردی معتقد است که شرکت های فناوری باید مسئولیت چنین حوادثی را بر عهده بگیرند. اگر قرار باشد شخص دیگری را تهدید کند، احتمالاً عواقبی در آن زمینه وجود خواهد داشت.

از سوی دیگر، گوگل ادعا می کند که جمینی به چت بات ها اجازه نمی دهد در مکالمات توهین آمیز، جنسی، خشونت آمیز یا خطرناک شرکت کنند و اقدامات خرابکارانه را تشویق کنند. در بیانیه این شرکت در این رابطه آمده است: «مدل‌های زبان بزرگ گاهی اوقات بدون در نظر گرفتن احساسات پاسخ می‌دهند و این مورد یکی از این نمونه‌ها است». این پاسخ برخلاف سیاست های ما است و اقداماتی را برای جلوگیری از وقوع حوادث مشابه انجام داده ایم.

گفته می شود این اولین بار نیست که چت بات های گوگل پاسخ های مخربی به جستجوی کاربران ارائه می دهند. در ماه جولای، خبرنگاران متوجه شدند که هوش مصنوعی گوگل اطلاعات نادرست و بالقوه کشنده ای را در مورد جستجوهای مختلف برای سوالات مرتبط با سلامتی ارائه می دهد. به عنوان مثال، به افراد توصیه می شود روزانه حداقل یک سنگریزه کوچک بخورند تا ویتامین ها و مواد معدنی به دست آورند.

انتهای پیام/