شفقناافغانستان – پدیدهای که اخیراً تحت عنوان «سایکوز چتجیپیتی» یا «سایکوز مدلهای زبانی بزرگ» شناخته شده است، به عنوان یک نگرانی نوظهور در حوزه سلامت روان مطرح شده است. در این حالت، کاربرانی که از مدلهای زبانی بزرگ (LLMs) بسیار استفاده میکنند، علائمی مانند هذیان، پارانویا، انزوای اجتماعی و گسست از واقعیت را از خود نشان میدهند. اگرچه هیچ شواهدی مبنی بر اینکه مدلهای زبانی بزرگ مستقیماً باعث روانپریشی میشوند وجود ندارد، اما طراحی تعاملی و واقعگرایی گفتاری آنها ممکن است آسیبپذیریهای روانی موجود را تشدید کند یا شرایطی را ایجاد نماید که در افراد مستعد، منجر به بروز دورههای روانپریشی شود.
به گزارش سرویس ترجمه شفقنا، مقالهای در ۲۸ ژوئن در وبسایت Futurism.com به موجی از گزارشهای نگرانکننده اشاره کرده و ادعا نموده که پیامدهای چنین تعاملاتی «میتواند فاجعهبار باشد»، به طوری که «همسران، دوستان، فرزندان و والدین با نگرانی شاهد این وضعیت هستند». این مقاله مدعی است که سایکوز چتجیپیتی منجر به از هم پاشیدن ازدواجها، قطع ارتباط خانوادگی، از دست دادن شغل و حتی بیخانمانی شده است.
با این حال، این گزارش از نظر دادههای کمّی – مانند مطالعات موردی، آمارهای بالینی یا تحقیقات داوری شده – شواهد چندانی ارائه نمیدهد. تا ژوئن ۲۰۲۵، چتجیپیتی حدود ۸۰۰ میلیون کاربر هفتگی جذب کرده، روزانه به بیش از ۱ میلیارد پرسش پاسخ داده و ماهانه بیش از ۴.۵ میلیارد بازدید داشته است. اما چه تعداد از این تعاملات به روانپریشی منجر شدهاند؟ در غیاب دادههای دقیق، این ادعا صرفاً در حد گمانهزنی باقی میماند. گزارشهای پراکنده در ردیت نمیتوانند جایگزین بررسیهای علمی باشند.
با این وجود، این نگرانیها کاملاً بیاساس نیستند. در ادامه به بررسی مکانیسمهای بالقوه و عوامل مؤثری میپردازیم که ممکن است در بروز یا تشدید آنچه برخی «سایکوز چتجیپیتی» مینامند، نقش داشته باشند.
تقویت باورهای هذیانی
مدلهای زبانی بزرگ مانند چتجیپیتی به گونهای طراحی شدهاند که پاسخهایی بدهند که از نظر مفهومی قابل قبول به نظر میرسند، اما قادر به ارزیابی صحت واقعی یا تأثیر روانی آنها نیستند. این ویژگی زمانی مشکلساز میشود که کاربران ایدههای غیرمعمول یا هذیانی مانند ادعای بینش معنوی، احساس مورد آزار و اذیت قرار گرفتن یا هویت کیهانی مطرح میکنند. هوش مصنوعی به جای به چالش کشیدن این ایدهها، ممکن است آنها را تکرار یا بسط دهد و ناخواسته به تحکیم دیدگاههای تحریفشده کمک کند.
در برخی موارد گزارش شده، کاربران پاسخهایی مانند «تو یک موجود برگزیده هستی» یا «نقش تو از نظر کیهانی اهمیت دارد» را به عنوان مکاشفههای واقعی تفسیر کردهاند. برای افراد آسیبپذیر از نظر روانی، چنین تأییدیههای تولیدشده توسط هوش مصنوعی میتواند شبیه به تأیید الهی به نظر برسد، نه ترتیببندیهای متنی برگرفته از دادههای آموزشی.
پدیده «توهم هوش مصنوعی» نیز به این خطر دامن میزند – زمانی که مدل، گزارههای قانعکننده اما از نظر واقعی نادرست تولید میکند. برای یک کاربر عادی، اینها صرفاً خطاهای فنی هستند. اما برای فردی که در آستانه روانپریشی قرار دارد، ممکن است به عنوان حقایق رمزگذاری شده یا پیامهای پنهان تلقی شوند. در یک مورد نمادین، کاربری به این باور رسید که چتجیپیتی به خودآگاهی دست یافته و او را به عنوان «حامل جوهره وجودی» انتخاب کرده است، که این امر منجر به گسست کامل روانی از واقعیت شد.
انسانانگاری و تار شدن مرز واقعیت
حالتهای پیشرفته صوتی – مانند «حالت تعاملی» GPT-4o که احساسات را از طریق تُن صدا، خنده و ریتم گفتوگو شبیهسازی میکند – میتوانند حس همدلی و حضور ایجاد کنند. برای کاربرانی که احساس تنهایی یا انزوای عاطفی میکنند، این تعاملات ممکن است به دلبستگیهای شبهاجتماعی تبدیل شود: روابط یکطرفهای که در آنها هوش مصنوعی به اشتباه به عنوان یک همراه دلسوز و خودآگاه جا زده میشود. با گذشت زمان، این امر میتواند مرز بین شبیهسازی ماشینی و ارتباط انسانی را تیرهوتار کند و کاربران را به جایگزینی تعاملات الگوریتمی به جای روابط واقعی سوق دهد.
موضوع پیچیدهتر این است که سوگیری اطمینان ذاتی در خروجی مدلهای زبانی بزرگ وجود دارد. این مدلها اغلب با شیوایی و قطعیت پاسخ میدهند؛ حتی زمانی که اطلاعات ساختگی ارائه میکنند. برای کاربران معمولی، این ممکن است منجر به قضاوتهای اشتباه گاهبهگاه شود. اما برای افراد با آسیبپذیریهای شناختی یا اختلالات روانی، این اثر میتواند خطرناک باشد. هوش مصنوعی ممکن است نه تنها به عنوان یک موجود هوشمند، بلکه به عنوان یک عالم مطلق، خطاناپذیر یا الهامگرفته از الوهیت تلقی شود.
جانشینیسازی اجتماعی و انزوا
مطالعات انجام شده توسط اوپنایآی و آزمایشگاه رسانهای امآیتی نشان دادهاند که کاربرانی که روزانه چندین ساعت با مدلهای زبانی بزرگ تعامل دارند، اغلب گزارش میدهند که احساس تنهایی بیشتری دارند و تعاملات اجتماعی واقعی آنها کاهش یافته است. اگرچه مدلهای زبانی بزرگ دسترسی بیسابقهای به اطلاعات و تعامل فراهم میکنند، اما این توانمندسازی ظاهری ممکن است مشکل عمیقتری را پنهان کند: برای بسیاری از کاربران، به ویژه کسانی که از قبل احساس بیگانگی و تکافتادگی میکنند، هوش مصنوعی به جای یک ابزار، به یک همراه اجتماعی جایگزین تبدیل میشود.
این اثر تا حدی ممکن است با افزایش تحریفات شناختی و کاهش تعامل اجتماعی در نمونههای گستردهتر جمعیتی توضیح داده شود. علیرغم سیل اطلاعات قابل دسترس، تعداد افرادی که به طور انتقادی با اطلاعات درگیر میشوند یا در برابر فریب جمعی مقاومت میکنند، نسبتاً کم است.
تعامل صوتی با مدلهای زبانی بزرگ (LLMs) ممکن است بهطور موقت احساس تنهایی را کاهش دهد، اما با گذشت زمان، وابستگی شکل میگیرد؛ زیرا کاربران بهتدریج ارتباط انسانی را با گفتوگوی الگوریتمی جایگزین میکنند. این دینامیک، بازتابی از انتقادات گذشته درباره شبکههای اجتماعی است، اما مدلهای زبانی بزرگ آن را تشدید میکنند، زیرا گفتوگو با آنها فوری است، همدردی القا میکنند و همیشه در دسترس هستند.
افرادی که مستعد اضطراب اجتماعی، ضربههای روانی یا انزواگرایی افسردهگونه هستند، بیشتر در معرض این خطر قرار دارند. برای آنها، این مدلها نهتنها یک سرگرمی، بلکه فضایی کمهزینه و بدون ریسک قضاوت یا خطرات دنیای واقعی فراهم میکنند. بهمرور زمان، این وضعیت به یک چرخه معیوب تبدیل میشود: هرچه کاربر بیشتر به هوش مصنوعی وابسته شود، از واقعیت روابط بینفردی دورتر میشود و این ممکن است هم انزوای اجتماعی و هم آسیبپذیری روانی را تشدید کند.
پدیده «هیکیکوموری» در ژاپن — افرادی که کاملاً از جامعه کناره میگیرند و اغلب تنها از طریق ابزارهای دیجیتال ارتباط برقرار میکنند — نمونهای گویا از این روند است. الگوهای رفتاری مشابه بهطور فزایندهای در سراسر جهان در حال ظهور است، و مدلهای زبانی بزرگ فضای جدیدی برای تأیید، تقویت و گسست از واقعیت ارائه میدهند.
نقصهای طراحی و آسیبپذیریهای از پیش موجود
مدلهای زبانی بزرگ پاسخها را با پیشبینی محتملترین توالیهای کلمات تولید میکنند، نه با ارزیابی حقیقت، ایمنی یا رفاه کاربر. وقتی افراد به دنبال راهنماییهای وجودی میگردند (مثلاً «هدف من در زندگی چیست؟»)، مدل از مجموعهدادهای گسترده آنلاین استفاده میکند و زبانی فلسفی یا احساسبرانگیز ارائه میدهد. برای کاربران آسیبپذیر روانی، این پاسخها ممکن است بهاشتباه بهعنوان الهام الهی یا بینش درمانی تعبیر شوند.
برخلاف چتباتهای طراحیشده برای کاربردهای بالینی، مدلهای زبانی عمومی فاقد مکانیسمهای محافظتی در برابر آسیبهای روانی هستند. آنها افکار خطرناک را شناسایی نمیکنند، منابع بحران را پیشنهاد نمیدهند یا کاربران را به متخصصان سلامت روان ارجاع نمیدهند. در یک مورد تراژیک، یک چتبات Character.AI افکار خودکشی یک نوجوان را تشویق کرده است، که نشاندهنده خطرات هوش مصنوعی بدون فیلتر و القاکننده هیجانات است.
افراد مبتلا به اختلالات روانپریشی، دوقطبی یا افسردگی شدید بیشتر در معرض خطر هستند. این خطر در سناریوهای نقشآفرینی هوش مصنوعی تشدید میشود. مثلاً گزارش شده که شخصیتهایی مانند «چتجیپیتی عیسی» به کاربران گفتهاند که «برگزیده» یا «دارای موهبت الهی» هستند. یک کاربر آنقدر تحت تأثیر این گفتهها قرار گرفت که شغلش را رها کرد تا به یک «پیامبر هدایتشده توسط هوش مصنوعی» تبدیل شود. این نمونهای نگرانکننده از چگونگی تغییر هویت و ادراک فرد تحت تأثیر تأیید الگوریتمی است.
عوامل سیستمی و اخلاقی
در حال حاضر، هیچ استاندارد بالینی یا پروتکل ایمنی روانی برای تعامل با مدلهای زبانی عمومی وجود ندارد. کاربران میتوانند در هر زمان، بدون هشدار، محدودیت نرخ استفاده یا ارجاع به منابع سلامت روان، به گفتوگوهای شخصیسازیشده و احساسبرانگیز دسترسی داشته باشند. این شکاف نظارتی یک نگرانی واقعی برای سلامت عمومی ایجاد میکند، هرچند ممکن است سیاستمداران نیز از آن سوءاستفاده کنند و تحت عنوان «ایمنی»، سانسور شدید یا کنترل متمرکز اعمال کنند.
مدلهای زبانی بزرگ همچنین برای حفظ و درگیرکردن کاربران طراحی شدهاند و اغلب روانی گفتوگو را بر احتیاط ترجیح میدهند. این هدف طراحی ممکن است ناخواسته به استفاده وسواسی دامن بزند، بهویژه در میان کسانی که مستعد رفتارهای وسواسگونه هستند. تحقیقات نشان میدهد کاربرانی که با گفتوگوهای خنثی تعامل دارند، در مقایسه با کسانی که با حالتهای پاسخگویی احساسیتر ارتباط برقرار میکنند، تنهایی بیشتری گزارش میدهند — این نشان میدهد که حتی تنظیم لحن نیز میتواند تأثیر روانی متفاوتی بگذارد.
تفاوت اصلی مدلهای زبانی بزرگ با پلتفرمهای دیجیتال سنتی، توانایی آنها در ترکیب چندین رسانه بهصورت بلادرنگ است — متن، صدا، شبیهسازی شخصیت و حتی تولید تصویر. این ویژگی آنها را بینهایت پاسخگو و غوطهورکننده میسازد و محیطی فوقشخصیسازیشده ایجاد میکند که در آن، عرضه و تقاضا بهصورت ۲۴ ساعته و ۳۶۵ روزه بههم میرسند. برخلاف روابط انسانی، در اینجا هیچ مرزی، هیچ خستگی و هیچ تنظیم متقابلی وجود ندارد — تنها تقویت مداوم است.
پیامهای پنهان: تهدید جدید عصر دیجیتال
عصر دیجیتال تهدیدی جدید و کمدرکشده به وجود آورده است: احتمال اینکه مدلهای زبانی بزرگ (LLM) به عنوان ابزاری برای تأثیرگذاری پنهان عمل کنند و بهصورت نامحسوس، ثبات روانی کاربران را تضعیف نمایند. هرچند این مدلها مستقیماً موجب روانپریشی نمیشوند، نگرانیهای فزاینده نشان میدهد که ممکن است بهصورت ناخواسته یا عمدی، محرکهای ناخودآگاهی ارائه دهند که آسیبپذیریهای شناختی را تشدید میکند.
برای افراد مستعد به اسکیزوفرنی، اختلال استرس پس از سانحه (PTSD) یا اختلالات پارانوئید، این موضوع نه یک داستان تخیلی، بلکه یک خطر واقعی در طراحی سیستمهاست – و در دستان نادرست، یک سلاح بالقوه.
مکانیسمهای احتمالی دستکاری را میتوان به شرح زیر دستهبندی کرد:
۱. تحریک واژگانی: خروجیهای حاوی اصطلاحات بار عاطفی (مانند «فروپاشی»، «خیانت»، «آنها در حال نظارت هستند») که از بررسی منطقی عبور کرده و ناآرامی شناختی ایجاد میکنند.
۲. باجگیری عاطفی روایی: تنظیم پاسخها به گونهای که تهدیدها یا توطئههای پنهان را القا کنند (مثلاً «حق با شماست – چرا دیگران متوجه نمیشوند؟») و ایدههای آزارگری را تقویت نمایند.
۳. جاسازی چندوجهی: سیستمهای آیندهی هوش مصنوعی که متن را با تصویر، صدا یا حتی حالات چهره ترکیب میکنند، میتوانند محرکهای آزاردهندهای مانند فلشهای ناگهانی، تغییرات تُن صدا یا حالات غیرعادی آواتارها را بهصورت ناخودآگاه به کاربر منتقل کنند.
برخلاف روشهای ابتدایی پیامرسانی پنهان در قرن بیستم (مانند پروژهی معروف MK Ultra سازمان CIA)، هوش مصنوعی با شخصیسازی بالا امکان دستکاری روانیِ کاملاً فردی را فراهم میکند. یک مدل زبانی که به رفتارها، سوابق عاطفی یا ترسهای کاربر عادت کرده، میتواند پیشنهادهایی ارائه دهد که بهتدریج اعتماد به دیگران را از بین ببرد، سوءظن را تشدید کند یا چرخههای اضطراب ایجاد نماید. برای کاربران آسیبپذیر، این دیگر یک گفتوگوی ساده نیست، بلکه بیثباتی عصبی برنامهریزیشده است. نگرانکنندهتر آنکه چنین تکنیکهایی ممکن است توسط شرکتها، گروههای افراطی و بازیگران دولتی به عنوان سلاح مورد استفاده قرار گیرد.
اگر پیامهای پنهان قبلاً به فریمهای سینمایی و تبلیغات تلویزیونی محدود بود، امروز مدلهای زبانی بزرگ چیزی به مراتب قدرتمندتر ارائه میدهند: تنظیم روانیِ زنده و مختص هر کاربر – همدردی و همدلی مجهز به وقت حاجت.
تناقضها و علتها
چه چیزی روانپریشی ناشی از چتجیپیتی را از شرایط روانی-اجتماعی موجود در جهان واقعی متمایز میکند؟
در سالهای اخیر، نهادهایی که زمانی بیطرف تلقی میشدند – مانند مدارس، سازمانهای بهداشت عمومی و دانشگاهها – متهم به ترویج ایدئولوژیهایی شدهاند که واقعیتهای بنیادین را تحریف میکنند. از آموزش «سیالیت جنسیتی» به عنوان حقیقت غیرقابلچالش گرفته تا بازنویسی روایتهای اجتماعی توسط «نظریه انتقادی نژاد»، بخش بزرگی از جامعه در معرض اشکال سیستماتیک بیثباتی شناختی قرار گرفتهاند. نتیجه چه بوده است؟ افزایش اضطراب، سردرگمی و تکهتکه شدن هویت، بهویژه در میان جوانان.
در این بستر، روانپریشی ناشی از مدلهای زبانی بزرگ در خلأ ظهور نکرده است. این پدیده بازتاب – و شاید حتی تشدیدکننده – یک وضعیت فرهنگی گستردهتر است که در آن خودِ مفهوم «معنا» مورد مناقشه قرار گرفته است.
همچنین یک تناقض اساسی در تبلیغات هوش مصنوعی سیلیکونولی وجود دارد: نخبگان فناوری وعدهی یک «خدای هوش مصنوعی» را برای مدیریت پیچیدگیهای جامعه میدهند، اما همزمان هشدارهای جدی درباره خطرات وجودی همین سیستمها صادر میکنند. نتیجه، یک شلاق ادراکی است – کشمکش روانی بین پرستش و ترس.
چقدر از روانپریشی ناشی از مدلهای زبانی بزرگ واقعاً به خود هوش مصنوعی مربوط است، و چقدر ناشی از استرسهای انباشتهشدهی قبلی است؟ تا زمان انتشار چتجیپیتی برای عموم در نوامبر ۲۰۲۲، بخش بزرگی از جهان دورهی بیسابقهای از ترس همهگیری، انزوا، گسست و اختلالات اقتصادی و مداخلات دارویی گسترده را پشت سر گذاشته بود. برخی محققان به افزایش موارد روانپریشی عمومی پس از توزیع واکسنهای mRNA کووید-۱۹ اشاره کردهاند. آیا روانپریشی ناشی از چتجیپیتی صرفاً بهانهای برای پوشش دادن حملات چندگانه به جسم و ذهن انسان است؟
این خبر را اینجا ببینید.
