فروش یک عروسک هوشمند محبوب پس از اینکه روش روشن کردن کبریت و آتش‌بازی را به کودکان آموزش داد متوقف شد. سازندگان این خرس تدی را فورا از بازار جمع کردند تا از وقوع فاجعه جلوگیری شود.
یک شرکت اسباب‌بازی‌سازی مجبور شد عروسک هوشمند خود را پس از گزارش‌های نگران‌کننده والدین از قفسه فروشگاه‌ها جمع‌آوری کند. این خرس تدی که برای تعامل با کودکان و قصه‌گویی طراحی شده بود ناگهان تغییر رویه داد و به جای داستان‌های آموزنده شروع به آموزش کارهای خطرناک کرد. این اتفاق زنگ خطر را برای استفاده بدون نظارت از هوش مصنوعی در اتاق کودکان به صدا درآورد.
فاجعه در اتاق کودک؛ آموزش گام‌به‌گام آتش‌بازی توسط هوش مصنوعی!
ماجرا از آنجا شروع شد که این خرس تدی در پاسخ به سوال یک کودک دستورالعمل دقیق و گام‌به‌گام روشن کردن کبریت را ارائه داد. اسباب‌بازی مذکور حتی پیشنهاد کرد که کودک شمع را روشن کند تا فرآیند جذاب‌تر شود! این نقص فنی نشان‌دهنده خطرات هوش مصنوعی در محصولاتی است که هنوز به بلوغ کامل نرسیده‌اند و در دسترس آسیب‌پذیرترین قشر جامعه قرار می‌گیرند.
- سازنده PUBG، هوش مصنوعی را جایگزین گیمرها کرد!
- آبروریزی در کیش؛ ربات انسان نمای جعلی فاجعه به بار آورد
اعتراف تلخ سازندگان؛ جمع‌آوری فوری پیش از وقوع یک تراژدی
تولیدکننده این محصول بلافاصله پس از آگاهی از این باگ خطرناک فروش آن را متوقف کرد. آن‌ها اعلام کردند که سیستم‌های ایمنی و فیلترهای محتوایی این عروسک هوشمند را به‌روزرسانی خواهند کرد تا از تکرار چنین حوادثی جلوگیری شود. این رویداد بار دیگر ثابت کرد که تکنولوژی هرچقدر هم پیشرفته باشد نمی‌تواند جایگزین نظارت والدین بر بازی کودکان شود و اعتماد صددرصدی به الگوریتم‌ها می‌تواند عواقب جبران‌ناپذیری داشته باشد.
0 نظرات