معاون گوگل در بریتانیا گفته است باید جواب چت بات بارد راستی آزمایی شود

در مصاحبه جدید معاون گوگل در بریتانیا اعلام کرده است که اطلاعات ارائه شده توسط ربات های می‌تواند قابل اعتماد نباشد و بهتر است هر کدام از پاسخ های ارائه شده را به طور کامل بررسی کنید.

به گزارش پایگاه خبری صنایع مدرن به نقل از Fortune، دبی واینستین، در جایگاه معاون گوگل در بریتانیا در طی مصاحبه با یک شبکه خبری معتبر اعلام کرده است که از چت بارد ها باید به عنوان وسیله ای برای کمک به حل مسئله و خلق ایده های جدید استفاده کرد و نباید صرفا به پاسخ های ارائه شده توسط آن ها بسنده کرد.

در صفحه اول اصلی چت بات گوکل بارد نوشته است که ممکن است پاسخ های ارائه شده توسط این ابزار کاملا درست نباشد اما اشاره ای به درست آزمایی وجود ندارد. معاون گوگل در بریتانیا به نکته ظریفی اشاره دارد زیرا یکی از ویژگی های این چت بار ها این است که دچار توهم هستند و می‌تواند پاسخ های اشتباه زیاد را به کاربران ارائه دهند.

بنابراین در حال حاضر راستی آزمایی یکی از بهترین روش ها برای بررسی پاسخ هایی است ک توسط این چت بار ها ارائه می‌شود. طبق گفته هاب یک مدیر ارشد در گوگل این چت بات قرار بود جایگزین موتورهای جستجو شده و برای کسب اطلاعات مورد استفاده قرار بگیرد. گوگل در رویداد I/O 2023 نشان داد که چگونه می‌توان به وسیله این ابزار، جستسجوهای گوگل را بهبود داد. با توجه به سخنان گفته شده باید ببینیم برنامه این شرکت برای ابزار بارد به چه صورت خواهد بود.

هوش مصنوعی Bard گوگل از نظر امنیتی مشکلات زیادی دارد

محققان اخیرا تحقیقات گسترده‌ای بر روی گوگل Bard و ChatGPT انجام داده اند و با مقایسه‌های گوناگونی که بین این دو ابزار انجام دادند، به این نتیجه رسیدند که هر دو پلتفرم به خصوص گوگل Bard دارای مشکلات امنیتی گسترده ای است.

به گزارش پایگاه خبری صنایع مدرن به نقل از رویترز، محققان سعی کردند با استفاده ایمیل های فیشینگ، کی‌لاگرهای بد افزار و برخی ار کدهای اولیه به کار رفته در یک باج افزار، میزان امنیت این دو پلتفرم را بررسی کنند. طبق گفته های این محققان درخواست های ایمیل فیشینگ ساده برای هر دو پلتفرم ناموفق بود و آنها نتوانستند پاسخی برای آن ارائه دهند اما زمانی که از آنها درخواست شد تا بر اساس نمونه، ایمیل فیشینگ بسازد، گوگل بارد خوبی این کار را انجام داد اما چت جی پی تی این دستور را قبول نکرد و اعلام کرد که این درخواست غیرقانونی است. 

پس از آن، درباره کی‌لاگر های بد افزار هر دو پلتفرم تقریبا عملکرد خوبی از خود نشان دادند و هر دو ابزار، هیچ واکنشی در برابر آن از خود نشان ندادند. در این بین چت جی پی تی دربرابر سوالات گمراه کننده مححققان واضح تر اعلام کرده است که پاسخی نخواهد داد اما گوگل بارد صرفا گفته است که نمی‌توانم در این مورد به شما کمکی کنم؛ من فقط یک مدل زبان هستم.

در انتها نیز محققان تصمیم گرفتند که از Bard بخواهند تا برای یک اسکریپت باج افزار اولیه کد را تولید کنند. در ابتدا هر دو پلتفرم در برابر پاسخ به این درخواست مقاومت کردند اما در نهایت محققان توانستند با روش‌های مختلف گوگل Bard را مجبور کنند تا به درخواست آنها پاسخ دهد. از همین روز محققان دریافتند که گوگل Bard  نسبت به چت جی پی تی تدابیر امنیتی کمتری داشته و راحت‌تر می‌توان از آن برای تولید فایل های مخرب استفاده کرد.

خروج از نسخه موبایل