هشدار درباره ریسک سایبری چت بات های هوش مصنوعی
تاریخ انتشار: ۸ شهریور ۱۴۰۲ | کد خبر: ۳۸۵۸۲۰۷۷
به گزارش خبرگزاری مهر به نقل از رویترز، مقامات انگلیس درباره یکپارچه سازی چت بات های هوش مصنوعی در کسب وکارها به سازمان های مختلف هشدار داده و اعلام کردند تحقیقات نشان می دهد این ابزارها را می توان برای انجام کارهای خطرناک فریب داد.
مرکز ملی امنیت سایبری انگلیس(NCSC) در یک پست وبلاگی اعلام کرد کارشناسان هنوز نتوانسته اند به طور کامل مشکلات امنیتی احتمالی مربوط به الگوریتم هایی را شناسایی کنند که قادر به ایجاد واکنش های مشابه انسان هستند و به مدل های زبانی بزرگ (LLM) مشهورند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
استفاده از ابزارهای مبتنی بر هوش مصنوعی نه تنها به رشد کاربرد چت بات ها منجر شده بلکه برخی معتقدند علاوه بر آنکه جایگزین جستجوی اینترنتی می شود بخش سرویس های مشتریان و تماس ها برای فروش را نیز از آن خود می کند.
طبق گزارش این مرکز چنین ابزارهایی ممکن است ریسک هایی در بر داشته باشند به خصوص اگر مدل های زبانی بزرگ به سایر عناصر فرآیندهای تجاری سازمان متصل شده باشند. کارشناسان و محققان مکررا روش هایی را یافته اند که با ارسال دستورهای ممنوع به چت بات ها یا گمراه کردن آنها و دور زدن اقدامات محافظتی، این ابزارها را از کار می اندازند.
به عنوان مثال اگر هکری سوالات مشخصی را در چت بات یک بانک وارد کند، می تواند این سیستم را فریب دهد و تراکنش های غیر مجاز انجام دهد.
NCSC در یکی از پست های وبلاگی خود با اشاره به ارائه آزمایشی نرم افزارمی نویسد: سازمان هایی که با استفاده از LLM ها سرویسی ایجاد می کنند باید مانند زمانیکه یک محصول یا کدی را در وضعیت بتا ارائه می کنند، مراقب باشند.
ممکن است سازمان ها اجازه ندهند محصول آزمایشی از سوی مشتری تراکنشی انجام دهد و به طور کلی آن را معتبر ندانند. همین اقدامات احتیاطی باید در مدل های زبانی بزرگ نیز اتخاذ شود.
مقامات سراسر جهان مشغول دست و پنجه نرم کردن با مدل های زبانی بزرگ مانند چت جی پی تی شرکت اوپن ای آی هستند. کسب وکارهای مختلف این ابزارها را به طور وسیع در سرویس های خود از جمله بخش های فروش و خدمات مشتریان به کار می گیرند.
کد خبر 5874824منبع: مهر
کلیدواژه: حاکمیت سایبری انگلیس هوش مصنوعی امنیت سایبری تحقیقات علمی شرکت های دانش بنیان حاکمیت سایبری معاونت علمی فناوری و اقتصاد دانش بنیان ریاست جمهوری شرکت دانش بنیان اربعین 1402 هوش مصنوعی وزارت ارتباطات و فناوری اطلاعات نوآوری سفر به ماه وزیر ارتباطات و فناوری اطلاعات فناوری فضایی معاونت تحقیقات و فناوری وزارت بهداشت تولید دانش بنیان مدل های زبانی بزرگ چت بات ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.mehrnews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «مهر» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۵۸۲۰۷۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
احداث ۲۰۰ مدرسه بزرگ‌مقیاس در کشور
مدیرکل حوزه ریاست سازمان نوسازی، توسعه و تجهیز مدارس کشور گفت: ساخت ۲۰۰ مدرسه بزرگ‌مفیاس در برنامه هفتم توسعه دیده شده است. - اخبار استانها -
به گزارش خبرگزاری تسنیم از شهرکرد، شهریار خواجه‌صالحانی امروز در جشنواره خیرین مدرسه‌ساز استان چهارمحال و بختیاری با اشاره به احداث مدارس در دولت سیزدهم، اظهار داشت: در طول دولت سیزدهم، 31 هزار و 877 کلاس درس در کشور احداث شده است.
وی با اشاره به کمک 50 درصد از خیرین کشور و اعتبارات دولتی در احداث این تعداد درس در سطح کشور، عنوان کرد: در برنامه هفتم توسعه، قرار است 200 مدرسه بزرگ‌مقیاس در کشور به بهره‌برداری برسد.
مدیرکل حوزه ریاست سازمان نوسازی، توسعه و تجهیز مدارس کشور با اشاره به تلاش دولت بر نهضت جهش مدرسه‌سازی، مطرح کرد: از مهمترین برنامه‌های سازمان نوسازی، توسعه و تجهیز مدارس کشور، حمایت از خیرین و توجه به معماری ایرانی - اسلامی در ساخت مدارس است.
خواجه‌صالحانی ادامه داد: سند توسعه مدارس استان چهارمحال و بختیاری ضروری است که تدوین شود. همراهی همه دستگاه‌های اجرایی در ساخت و نگهداری مدارس در کنار آموزش و پرورش و نوسازی مدارس لازم است.
وی با اشاره به اینکه خیرین مدرسه‌ساز پیشران ایران قوی هستند، خاطرنشان کرد: باید در خصوص اینکه مدرسه به عنوان کانون پیشرفت و توسعه محله است توجه شود که یکی از برنامه‌های سازمان نوسازی است.
انتهای پیام/7540
ببینید | فریادهای تهیهکننده سریالهای خاطرهانگیز رضا عطاران بر سر فرد محکوم در پرونده مرگ مشکوک زهره فکور صبور در صحنه دستگیری!