به نقل از «فرارو»

آیا به اشتراک گذاری اطلاعات شخصی با چت‌بات بی‌خطر است؟

تاریخ انتشار: ۲ بهمن ۱۴۰۲ | کد خبر: ۳۹۵۷۹۸۶۰

فرارو- تصور کنید یادداشت‌های خود را از یک جلسه با رادیولوژیست خود در یک چت بات مبتنی بر هوش مصنوعی قرار داده و از آن خواسته اید تا آن را خلاصه کند. پس از آن یک فرد غریبه از همان چت بات مبتنی بر هوش مصنوعی مولد درخواست می‌کند تا او را در مورد نگرانی هایش درباره سرطان آگاه سازد و برخی از مکالمه‌های ظاهرا خصوصی شما به عنوان بخشی از پاسخ به پرسش به آن کاربر ارائه می‌شود.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

به گزارش فرارو به نقل از وال استریت ژورنال، نگرانی در مورد بروز چنین مواردی از نقض احتمالی حریم خصوصی برای بسیاری از افراد بسیار مهم است، زیرا محبوبیت چت بات‌های مبتنی بر هوش مصنوعی مولد در حال گسترش است. پرسش بزرگ در اینجاست: آیا به اشتراک گذاری اطلاعات شخصی با این چت بات‌ها بی خطر است؟ پاسخ کوتاه این است که همیشه این خطر وجود دارد که اطلاعاتی که به اشتراک می‌گذارید به نحوی در معرض دید قرار گیرند با این وجود، راه‌هایی برای محدود ساختن این خطر وجود دارند.

برای درک نگرانی‌ها فکر کردن به نحوه آموزش این ابزار‌ها مفید است این که چگونه در ابتدا حجم عظیمی از اطلاعات از اینترنت و منابع دیگر به آن‌ها داده می‌شود و می‌توانند به جمع آوری اطلاعات از تعاملات خود با کاربران ادامه دهند تا به طور بالقوه آن‌ها را باهوش‌تر و دقیق‌تر سازند. در نتیجه، زمانی که از یک چت بات مبتنی بر هوش مصنوعی پرسشی را مطرح می‌کنید پاسخ آن تا حدی براساس اطلاعاتی است که شامل مطالبی می‌باشد که قدمت آن به مدت‌ها قبل از وضع قوانین در مورد استفاده از داده‌های اینترنتی و حفظ حریم خصوصی باز می‌گردد و حتی  منابع جدیدتر مملو از اطلاعات شخصی افراد است که در سراسر وب پراکنده شده اند.

این امر فرصت زیادی را برای اطلاعات خصوصی به وجود می‌آورد تا در مواد آموزشی مختلف چت بات‌های مبتنی بر هوش مصنوعی مولد قرار گیرند  اطلاعاتی که می‌توانند ناخواسته در مکالمه شخص دیگری با یک چت بات ظاهر شوند یا به صورت عمدی توسط بازیگران بد از طریق درخواست‌ها یا پرسش‌های حیله گرانه هک یا فاش شوند. "رامایا کریشنان" مدیر دانشکده مرکز فناوری در دانشگاه کارنگی ملون می‌گوید:"ما می‌دانیم که چت بات‌ها  بر روی حجم وسیعی از اطلاعات آموزش دیده اند که می‌توانند حاوی اطلاعات حساس باشند و احتمالا حاوی این اطلاعات هستند".

او اشاره می‌کند هنگامی که یک ابزار مبتنی بر هوش مصنوعی به کار گرفته می‌شود به طور کلی به آموزش تعاملات کاربران با آن ادامه می‌دهد و هر اطلاعاتی را که با آن تغذیه می‌شود جذب و ذخیره می‌کند. علاوه بر این، در برخی موارد کارکنان انسانی در حال خواندن برخی از مکالمات کاربران با چت بات‌ها هستند. کارشناسان می‌گویند که این کار تا حدی برای تشخیص و جلوگیری از رفتار نامناسب و کمک به دقت و کنترل کیفیت مدل‌ها و هم چنین برای تصمیم گیری در مورد این که شرکت‌ها می‌خواهند هوش مصنوعی از کدام زیرمجموعه مکالمات برای آموزش استفاده کند صورت می‌گیرد.

اتفاقاتی رخ می‌دهند

نگرانی در مورد حریم خصوصی صرفا در حد یک نظریه نیست. مواردی گزارش شده اند که نشان می‌دهند اطلاعات محرمانه به طور ناخواسته در اختیار کاربران قرار گرفته اند. در مارس گذشته Open AI آسیب‌پذیری‌ای را فاش ساخت که به برخی از کاربران چت بات چت جی پی تی (Chat GPT) اجازه می‌داد عناوین چت‌های کاربران دیگر با آن ابزار مبتنی بر هوش مصنوعی را ببینند و هم چنین ممکن است به طور خلاصه اطلاعات مربوط به پرداخت برخی از کاربران از جمله آدرس‌های ایمیل و چهار رقم پایانی شماره کارت اعتباری آنان و هم چنین تاریخ انقضای کارت را در معرض نمایش قرار دهد. این رخداد در نتیجه یک اشکال در برخی از نرم افزار‌های منبع باز بود.

 نگرانی‌های مربوط به حریم خصوصی به اندازه‌ای بزرگ هستند که چندین شرکت استفاده از چت بات‌های مبتنی بر هوش مصنوعی توسط کارمندان خود در محل کار را محدود یا ممنوع ساخته اند. رایکو می‌گوید: "اگر شرکت‌های بزرگ نگران حریم خصوصی خود هستند این به ما می‌گوید که هنگام به اشتراک گذاری هر چیز شخصی باید محتاط باشیم". رایکو می‌گوید در مورد آن چه که پیش‌تر در مدل‌های چت بات وجود داشته کار زیادی نمی‌توان انجام داد.

فقط این کار را انجام ندهید

سازندگان چت بات‌ها اقداماتی را برای محافظت از حریم خصوصی کاربران انجام داده اند. برای مثال، کاربران می‌توانند توانایی چت جی پی تی برای ذخیره تاریخچه چت خود را به طور نامحدود از طریق گزینه‌ای قابل مشاهده در صفحه اصلی آن خاموش و غیر فعال سازند. این یک محافظت بی خطر در برابر هکر‌ها نیست و کماکان چت‌های جدید کاربرانی را که این گزینه را انتخاب می‌کنند به مدت ۳۰ روز ذخیره می‌شوند. با این وجود، از آن چت‌ها برای آموزش مدل استفاده نمی‌شود. بارد (Bard) چت بات مبتنی بر هوش مصنوعی ساخته شده توسط گوگل از کاربران می‌خواهد که وارد Bard.Google.com شوند سپس چند مرحله را برای حذف تمام فعالیت‌های چت به‌عنوان پیش فرض دنبال کنند.

کاربران بینگ (Bing) چت بات مبتنی بر هوش مصنوعی ساخت مایکروسافت نیز می‌توانند صفحه وب چت بات را باز کنند، تاریخچه جستجوی خود را در سمت راست صفحه مشاهده کنند و سپس چت‌های فردی را که می‌خواهند حذف شوند حذف نمایند. یکی از سخنگویان مایکروسافت می‌گوید: "با این وجود، کاربران در حال حاضر نمی‌توانند تاریخچه چت را غیرفعال کنند".

کارشناسان می‌گویند بهترین راه برای محافظت از خود آن است که کاربران از به اشتراک گذاری اطلاعات شخصی با ابزار هوش مصنوعی خودداری کنند و هنگام مکالمه با هر چت بات مبتنی بر هوش مصنوعی اصطلاحا به دنبال پرچم‌های قرمز خاص یا علامت‌های هشدار دهنده باشند. برخی از پرچم‌های قرمز شامل استفاده از چت بات‌هایی است که هیچ گونه اطلاعیه‌ای درباره حفاظت از حریم خصوصی کاربران ندارند. این به شما می‌گوید آن چت بات چندان امن نیست.

مورد دیگر زمانی است که یک چت بات اطلاعات شخصی بیش تری از آن چه منطقی و ضروری به نظر می‌رسد را از شما درخواست می‌کند. گاهی اوقات برای ورود به یک حساب کاربری باید شماره حساب یا رمز عبور خود را به اشتراک بگذارید و به برخی از سوالات شخصی پاسخ دهید این موضوعی غیر عادی نیست، اما گاهی از شما خواسته می‌شود تا شماره مرتبط با دریافت خدمات اجتماعی خود را به اشتراک بگذارید که امری متفاوت است و نباید این کار را انجام دهید. هم چنین، عاقلانه نیست که با یک چت بات در مورد چیزی که تاکنون درباره آن نشنیده اید صحبت کنید، زیرا کل سیستم ممکن است توسط بازیگران بد اداره شود.

منبع: فرارو

کلیدواژه: قیمت طلا و ارز قیمت خودرو قیمت موبایل اشتراک گذاری اطلاعات شخصی حریم خصوصی چت بات یک چت بات چت بات ها هم چنین

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۵۷۹۸۶۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

مدل‌سازی اطلاعات ساختمان (BIM) گامی به سوی یکپارچگی در معماری

به گزارش خبرنگار خبرگزاری علم و فناوری آنا، به همت انجمن علمی معماری و باشگاه پژوهشگران جوان و نخبگان دانشگاه آزاد اسلامی واحد لارستان، همایش «آینده معماری، هوش مصنوعی در معماری + BIM» با حضور رئیس و اعضای هیئت رئیسه، استادان و دانشجویان دانشگاه آزاد اسلامی واحد لارستان در سالن فرهیختگان این واحد دانشگاهی برگزار شد.

استاد گروه معماری دانشگاه آزاد اسلامی واحد لارستان در این نشست با تشریح «نقش هوش مصنوعی در معماری آینده» گفت: هوش مصنوعی به‌عنوان ابزاری نوآورانه، می‌تواند به معماران در زمینه بهبود فرآیند طراحی با خودکارسازی وظایف تکراری و تجزیه و تحلیل داده‌ها، به تسریع و ارتقای دقت فرآیند طراحی کمک کند.

محمد امان‌زادگان متذکر شد: هوش مصنوعی با شبیه‌سازی عملکرد ساختمان در شرایط مختلف و ارائه راه‌حل‌های جایگزین، به طراحی ساختمان‌هایی هوشمندتر، پایدارتر و سازگارتر با محیط زیست منجر می‌شود.

وی، بهینه‌سازی مصرف انرژی را یکی دیگر از کاربرد‌های هوش مصنوعی در معماری یاد کرد و افزود: هوش مصنوعی با تجزیه و تحلیل الگو‌های مصرف انرژی و ارائه راه‌حل‌های مناسب، به کاهش مصرف انرژی در ساختمان‌ها کمک می‌کند.

استاد گروه معماری دانشگاه آزاد اسلامی واحد لارستان در بخش دیگری از سخنان خود به معرفی مدل‌سازی اطلاعات ساختمان (BIM) به عنوان گامی به سوی یکپارچگی در معماری پرداخت و توضیح داد: BIM با ایجاد مدل‌های سه‌بعدی دقیق از ساختمان، مدیریت اطلاعات مربوط به مصالح، تجهیزات و سیستم‌های ساختمانی، شبیه‌سازی عملکرد ساختمان در شرایط مختلف، هماهنگی بین بخش‌های مختلف پروژه و کاهش دوباره کاری و خطا، تحولی شگرف در صنعت معماری رقم خواهد زد.

این استاد دانشگاه، ترکیب هوش مصنوعی و BIM را طلوع دورانی نو در دنیای معماری را نوید نامید و ادامه داد: با اتکا به این فناوری‌های نوین، می‌توان شاهد طراحی ساختمان‌هایی ایمن‌تر، پایدارتر، سازگارتر با محیط زیست، با مصرف بهینه‌تر منابع، فضایی دلنشین‌تر و فرآیند ساخت‌وسازی سریع‌تر و کم‌هزینه‌تر بود.

وی به کاربرد‌های مختلف AR و VR در معماری اشاره و تبیین کرد: واقعیت مجازی و افزوده، دو فناوری نوظهور هستند که انقلابی در نحوه تجربه و درک معماری ایجاد می‌کنند که با استفاده از VR، معماران و طراحان می‌توانند مدل‌های سه‌بُعدی کاملاً واقعی از ساختمان‌ها را ایجاد کنند که به مشتریان امکان می‌دهد قبل از ساخت، در داخل و خارج ساختمان قدم بزنند و با آن تعامل داشته باشند و AR نیز به کاربران اجازه می‌دهد تا اطلاعات دیجیتال را بر روی دنیای واقعی خودروی خود اعمال کنند و می‌تواند برای تجسم چگونگی قرارگیری مبلمان یا عناصر طراحی در یک فضا بسیار مفید باشد.

استاد گروه معماری دانشگاه آزاد اسلامی واحد لارستان به نقش هوش مصنوعی در BIM، کاربرد هوش مصنوعی در زمینه‌های مختلف معماری و چالش‌ها و چشم‌انداز‌های استفاده از هوش مصنوعی در معماری اشاره کرد.

سعید پرهوده مدیر گروه معماری دانشگاه آزاد اسلامی واحد لارستان ضمن ارائه گزارشی از فعالیت‌های این گروه آموزشی به تشریح عملکرد علمی و عملی استادان و دانشجویان این گروه پرداخت.

در این مراسم با اهدای لوح سپاس توسط مهدی زارع رئیس و اعضای هیئت رئیسه دانشگاه آزاد اسلامی واحد لارستان به استادان گروه معماری و دانشجویان برتر این رشته از آنان تجلیل شد.

انتهای پیام/