آیا چت جی‌پی‌تی می‌تواند افکار شیطانی داشته باشد؟
تاریخ انتشار: ۱ اردیبهشت ۱۴۰۲ | کد خبر: ۳۷۵۸۱۰۲۲
نگرانی‌ها درباره استفاده از این فناوری هر روز بیشتر می‌شود و کارشناسان معتقدند که حتی می تواند پایه‌های تمدن مان را هک کند
از ۳۰ نوامبر ۲۰۲۲ که چت جی‌پی‌تی رونمایی شد و به سرعت بیش از یک میلیون نفر برای استفاده از آن ثبت‌نام کردند، نگرانی‌هایی درباره آن هم به گوش می‌رسید. این نرم‌افزار یک ابزار پردازش زبان است که توسط فناوری هوش مصنوعی هدایت می‌شود و به شما این امکان را می‌دهد که مکالماتی دقیقا شبیه یک انسان با یک «چت بات» داشته باشید؛ می‌تواندبه سؤالات پیچیده شما پاسخ دهد و برای حل مشکلات راه‌حل نشان دهد و .
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
از تقلب در مدارس تا ترغیب به کار‌های مرگبار
یک استاد اعلام کرد که چت جی‌پی‌تی به پرسش‌های امتحانی دانش‌آموزانش پاسخ داده که خبر بدی برای معلمان بود. فردی دیگر ابزاری را برای نوشتن کل متن یک کتاب کودکان استفاده و سپس فروش آن را در آمازون آغاز کرد که خبر بدی برای نویسندگان بود. یک کاربر باهوش، چت جی‌پی‌تی را متقاعد کرد قوانین ایمنی را دور بزند و او را ترغیب به کار‌های خطرناک و مرگبار کند. نگرانی از اینکه این فناوری بالقوه دردسرساز به زودی در زندگی ما جاسازی خواهد شد چه بخواهیم و چه نخواهیم، تشدید شده است. ناظران عرصه فناوری در مقاله‌ای مشترک هشدار دادند: «ما چیز زیادی درباره آن نمی‌دانیم جز این که بسیار قدرتمند است و هدایای خیره کننده‌ای به ما ارائه می‌دهد، اما می‌تواند پایه‌های تمدن مان را هم هک کند.»
نحوه پاسخگویی چت جی‌پی‌تی
اگر واقعا می‌خواهیم این فناوری را درک کنیم باید درباره نحوه پیاده‌سازی آن در رایانه‌های واقعی هم چیز‌هایی بدانیم. هنگامی که درخواستی را به چت جی‌پی‌تی ارسال می‌کنید متنی که در وب سایت Open AI تایپ می‌کنید به یک برنامه کنترلی که در جایی در مرکز محاسبات ابری اجرا می‌شود، تحویل داده می‌شود. در این مرحله متن شما در دسته‌ای از اعداد بسته‌بندی می‌شود به‌گونه‌ای که درک و مدیریت آن را برای رایانه‌ها آسان‌تر می‌کند. اکنون اعداد آماده پردازش توسط برنامه اصلی چت جی‌پی‌تی هستند که از لایه‌های متمایز زیادی تشکیل شده است که هر یک توسط یک شبکه عصبی مصنوعی عظیم تعریف شده‌اند. ورودی شما به ترتیب در امتداد این لایه‌ها ارسال می‌شود مثل یک نسخه دیجیتالی از بازی تلفنی. هر لایه از شبکه عصبی خود برای شناسایی ویژگی‌های مرتبط در متن استفاده می‌کند و سپس آن را با خلاصه‌هایی از آن چه کشف کرده برای استفاده لایه‌های بعدی حاشیه‌نویسی می‌کند. جزئیات فنی نحوه عملکرد این شبکه‌ها برای اهداف ما کمی مشکل است. نکته مهم آن است که وقتی یک درخواست در هر لایه حرکت می‌کند تعداد زیادی محاسبات ریاضی غیرقابل درک را راه‌اندازی می‌کند که با هم چیزی کم و بیش شبیه به یک نسخه فشرده و درهم از رای گیری کلمه‌ای مبتنی بر قوانین کلی را اجرا می‌کنند. پس از این که ورودی شما از تمام این لایه‌ها عبور کرد خروجی نهایی چیزی است که تعداد آرا را برای هر کلمه بعدی ممکن تقریبی می‌کند. برنامه کنترل از این شمارش‌ها برای انتخاب موارد بعدی به صورت نیمه تصادفی استفاده می‌کند. پس از تمام این کار‌ها ما تنها یک کلمه از پاسخ چت جی‌پی‌تی را تولید کرده‌ایم. برنامه کنترل با وظیفه‌شناسی آن را به درخواست اصلی شما اضافه می‌کند و این متن کمی دراز را از ابتدا در تمام لایه‌های شبکه عصبی اجرا می‌کند تا کلمه دوم را ایجاد کند. سپس دوباره این کار را انجام می‌دهد تا زمانی که پاسخ کاملی برای بازگشت به مرورگر وب شما داشته باشد.
جی‌پی‌تی ایجاد نمی‌کند بلکه تقلید می‌کند
اکنون می‌توانیم به این پرسش اصلی پاسخ بدهیم: برنامه‌ای مانند چت جی پی تی چه نوع ذهنی دارد؟ هنگام تعامل با این سیستم‌ها زمان زیادی به طول نمی‌انجامد که وارد مکالمه‌ای شوید که باعث ناراحتی شما می‌شود. شاید لحظه‌ای از انسانیت غیرعادی آن غافلگیر شده باشید یا از پیچیدگی یک پاسخ شگفت‌زده شوید. با وجود این اکنون می‌دانیم که این شاهکار‌ها در واقع چگونه انجام می‌شوند. می‌توانیم این برداشت‌ها را تعدیل کنیم. سیستمی مانند چت جی‌پی‌تی، ایجاد نمی‌کند بلکه تقلید می‌کند. چت جی‌پی‌تی متنی را کپی می‌کند، دستکاری می‌کند و متنی را که در اصل توسط هوش انسانی نوشته شده بود کپی می‌کند و به هم می‌چسباند تا چیزی را تولید کند که به نظر می‌رسد یک شخص واقعی درباره آن موضوع صحبت می‌کند. چت جی‌پی‌تی هیچ تصور واقعی درخصوص چیزی که درباره آن صحبت می‌کند، ندارد. چت جی‌پی تی هیچ خاطره‌ای از مکالمات گذشته را حفظ نمی‌کند، تنها واژگان را یک به یک در پاسخ به هر ورودی بیان می‌کند و دقیقا همان قوانین را برای هر عمل مکانیکی تولید دستوری به کار می‌گیرد صرف نظر از این که آن کلمه بخشی از توصیف تعمیر یک دستگاه باشد یا یک شوخی در یک نمایش نامه کمدی.
فوق هوشمندشدن هوش‌مصنوعی تهدید است؟
در مجموع، این مشاهدات خبر خوبی برای کسانی است که می‌ترسند هوش‌مصنوعی شکلی فوق هوشمند را به خود بگیرد و تبدیل به تهدیدی رو به پیشرفت شود یا اینکه ممکن است روزی به زودی به‌طور تصادفی یک موجود خودآگاه را در یک رایانه به دام بیندازیم، اما حتی اگر فرض کنیم که چنین سیستمی ظهور خواهد کرد به شکل مدل‌های زبان بزرگ نخواهد بود. با وجود این، حتی اگر چت جی‌پی‌تی هوشمند نباشد آیا باز هم نمی‌تواند شغل‌مان را از ما بگیرد؟ درک تازه‌مان از نحوه عملکرد این برنامه‌ها هم می‌تواند به ما در مقابله با این ترس کمک کند. بر اساس آن چه تاکنون آموخته ایم عملکرد چت جی‌پی‌تی به نظر می‌رسد کم و بیش محدود به نوشتن درباره ترکیبی از موضوعات شناخته شده با استفاده از ترکیبی از سبک‌های شناخته شده است جایی که «شناخته» به این معنی است که برنامه به اندازه کافی در طول مدت زمان با موضوع یا سبک خاصی مواجه شده است. اگرچه برنامه می‌تواند از طریق آموزش، نمونه‌های جالب توجهی را ایجاد کند، اما بعید است که این فناوری در شکل فعلی خود به طور قابل توجهی بازار کار را مختل کند. علاوه بر این، این برنامه‌ها از بحران اعتماد رنج می‌برند: برای تولید متنی طراحی شده‌اند که درست به نظر می‌رسد، اما توانایی محدودی دارند برای تشخیص درستی آن چه می‌گویند. در نتیجه، احتمالا اکثر کارفرمایان در برون سپاری مشاغل به یک افسانه‌گر پشیمان تردید خواهند کرد.
منبع: خراسان
منبع: پول نیوز
کلیدواژه: فناوری فناوری اطلاعات فناوری نانو فناوری نوین فناوری فضایی چت جی پی تی درباره آن لایه ها کار ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.poolnews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «پول نیوز» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۵۸۱۰۲۲ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
اشتباه‌ترین تصور برای کسانی که به خودکشی فکر می‌کنند | این فیلم را حتما ببینید
به گزارش همشهری آنلاین، زمستان سال گذشته حمید پیروی، نایب رئیس جمعیت علمی پیشگیری از خودکشی ایران از روند افزایشی خودکشی در کشور خبر داد و این که در ۱۴۰۱ به ازای هر ۱۰۰ هزار نفر، ۷.۴ نفر اقدام به خودکشی و فوت کرده‌اند. به گفته این او عوامل مختلفی هم در میل، تصمیم و اقدام به خودکشی افراد دخیل بوده؛ از مسائل اقتصادی گرفته تا اختلالات روانشناختی، اما مطالعات نشان می‌دهد که حدود ۶۰ درصد از کسانی که خودکشی کردند، هنگام اقدام به خودکشی، افسردگی داشتند.
روانشناسان می‌گویند ایده خودکشی می‌تواند زمانی شکل بگیرد که فرد احساس کند دیگر قادر به کنار آمدن با یک وضعیت طاقت‌فرسا نیست. این مسئله می‌تواند از مشکلات مالی، مرگ یکی از عزیزان، پایان یک رابطه یا ابتلا به یک بیماری صعب‌العلاج ناشی شود. همچنین اختلالات و بیماری‌های روحی مانند افسردگی، اختلال دو قطبی یا سوء مصرف الکل هم می‌تواند منجر به شکل‌گیری افکار خودکشی شوند. آنها تاکید می‌کنند اگر افکار خودکشی دارید و برای آن برنامه ریزی کرده‌اید، پیش از هر اقدامی با یک یا چند نفر از نزدیکان یا دوستانتان صحبت کنید و اگر کسی را نداشتید با یک روانشناس یا مرکز درمانی در ارتباط باشید.
توصیه جدی آنها این است که اگر در اطرافتان کسانی هستند که افکار خودکشی را بیان می‌کنند با همدلی به او گوش دهید و با ایجاد حس دلگرمی او را تشویق به کنید که با یک فرد متخصص در ارتباط باشد.
جردن پیترسون، روانشناس بالینی، نویسنده و منتقد فرهنگی اهل کانادا در گفت‌وگویی که درباره توصیه به افرادی که قصد خودکشی دارند، به نکات جالبی در این باره اشاره کرده که در ادامه می‌توانید آن را ببینید.
پیترسون در بخشی از صحبت‌هایش در این فیلم یک توصیه عجیب برای کسانی که به خودکشی فکر می‌کنند کرده است، این که اگر افسرده هستید و فکر می‌کنید با نبودتان به دیگر لطف می‌کنید، در حقیقت چنین نیست و واقعیت ندارد. در اطرافتان کسانی را دارید که شما را دوست دارند و اگر شما جان خودتان را بگیرید، به احتمال زیاد هیچ وقت آدم سابق نخواهند شد. آنها تا آخر عمر خودشان را شکجه می‌دهند و همیشه به این فکر می‌کنند که اگر کاری انجام داده بودند، عزیزشان از دست نمی‌رفت. شما افسرده هستید و فکر می‌کنید با گرفتن جانتان به آنها لطف می‌کنید. در حالی که چنین نیست و به همین دلیل در اکثر جوامع خودکشی جرم محسوب می شود چون پیامدهای فاجعه‌باری بر جای می‌گذارد.
این در حالی است که نایب رئیس جمعیت علمی پیشگیری از خودکشی ایران هم پیشتر در این باره گفته «با هر مرگ ناشی از خودکشی در میان بازماندگان و کسانی که در معرض خبر خودکشی قرار می‌گیرند، ۱۳۵ تا ۱۸۰ نفر تحت تاثیر مشکلات روانشناختی قرار می‌گیرند. برخی از کسانی هم که اطلاعات خودکشی دیگران به آنها می‌رسد، ممکن است در معرض خودکشی تقلیدی قرار بگیرند.»
بیشتر بخوانید
جزئیات تازه در پرونده مرگ بازیگر معروف جزئیات مهم از فوت دکتر پرستو بخشی ؛ قتل، خودکشی یا...؟ خودکشی با روح آدم چه می کند؟ ۵ گام مهم برای مداخله در خودکشیاین در حالی است که مرکز مشاوره دانشگاه علوم پزشکی ایران هم ۵ توصیه را برای مواجهه با افراد دارای افکار خودکشی ارائه داده است.
۱. به دنبال نشانه‌های خودکشی باشید. از جمله این نشانه‌ها صحبت کردن یا تحقیق درباره مرگ، احساس ناامیدی، اضطراب، افسردگی و عدم تحمل است.
۲. همدلی کنید و حرف‌های آنها را بشنوید. فرد را قضاوت نکنید. با دلسوزی گوش دهید و به احساسات آنها ارج نهید.
۳. به صورت مستقیم درباره خودکشی سوال بپرسید. به نحوی سوال بپرسید که پاسخی صادقانه به شما بدهد. از هر علامتی که متوجه شده‌اید به عنوان بخشی از سوال استفاده کنید. روراست باشید. پرسیدن درباره خودکشی باعث خودکشی نمی‌شود.
۴. خطر را دور کنید. حذف دسترسی به اقلام مورد استفاده برای خودکشی یک رویکرد مبتنی بر شواهد برای جلوگیری از خودکشی است. اگر پاسخ مثبت به خودکشی داده‌اند، از آنها بپرسید: «آیا برنامه‌ای دارید؟ آیا به آن وسایل دسترسی دارید؟» دسترسی به داروها، طناب، چاقو و... را محدود و منع کنید.
۵. همراه با فرد مورد نظر با اورژانس اجتماعی برای پیشگیری از خودکشی تماس بگیرید. اگر فرد حاضر به دور کردن لوازم و ایمن شدن نیست، او را تنها نگذارید و تا حضور اورژانس در کنار او باشید.
کد خبر 847880 منبع: همشهری آنلاین برچسب‌ها بهداشت روانی سلامت خبر مهم خودکشی
علت فوت پزشک متخصص در استان فارس در دست بررسی است