هوش مصنوعی در کتابخانه عمومی: چند ملاحظه انتقادی

ما می‌توانیم با پذیرش یکی از تعاریف پیشنهادی درباره هوش مصنوعی ـ که تلقی ما از وظیفه و کاربرد هوش مصنوعی را شکل می‌دهد ـ و تلفیق آن با تصویر و پسند خود از رسالت و مأموریت کتابخانه عمومی، درباره نسبت میان هوش مصنوعی و آینده کتابخانه عمومی داد سخن بدهیم. این همان کاری است که تقریباً تمام مقالات علمی پژوهشی و غیرعلمی پژوهشی و نیز بیانیه «ایفلا» در این باره کرده‌اند. رسیدن به یک تعریفِ دست‌کم واحد و جامع، از این نظر مهم است که تعریف در این جا فقط کنشی ذهنی و مربوط به حوزه مفاهیم و معلومات تصوری نیست (دیدگاه صرفاً منطقی)، بلکه موضع و موقعیت ما را در مقام اجرا و عمل نیز بازنمایی می‌کند و، با تبیین مفاهیم کلیدی موضوع و رفع ابهام از آنها، راه را بر مجادلات غیرواقعی و بی‌حاصل می‌بندد و، به نوعی، معنا تولید می‌کند. 

واقعیت این است که تعاریف هوش مصنوعی، حتی در نظر پدیدآورندگان غربی‌اش، چنان مختلف است که گاه به تضاد می‎رسد: گاهی آن را هوشی صرفاً ماشینی می‌دانند در مقابل هوش طبیعی که موضوع آن ذهن جانداران از جمله انسان‌ است. گاه «هوش» را نشانگر «امکان / توانایی استدلال» می‌دانند. گاه دایره هوش مصنوعی را مطالعه در باب «عوامل هوشمند» تعریف می‌کنند که بر اساس آن و فقط مبتنی بر داده‌های پیشین می‌تواند به «اهداف از قبل معلوم» در حوزه‌هایی مانند داده‌کاوی و محاسبات پیچیده آماری برسد.

گاهی نیز عملکرد هوش مصنوعی را «تقلید» از عملکردهای شناختیِ ذهن انسان‌ مانند یادگیری و حل مسأله می‌دانند. رد و قبول هر یک از این تعاریف و بسیاری از تعاریف دیگر، نشان‌دهنده این است که توانایی و کاربرد این پدیده در میانه خوش‌بینی محض و ناامیدی در نوسان است و اوضاع بشدت ابری و مبهم است. ظهور فنّآوری‌های جدید و متکثر، که ویژگی سلبیِ مدرنیته است، نیز موجب بروز تفاوت در رهیافت‌های هوش مصنوعی و اساساً همه کاربردهای دیجیتالی می‌شود.

ما در این فضای مبهم چنان بسادگی و با قطعیت از پدیده سهمگین و پیچیده‌ای به نام «شبیه‌سازی مغز / ذهن» حرف می‌زنیم و همایش برگزار می‌کنیم و مقاله و کتاب می‌نویسیم که گویی همه فرایندهای آن همین الان حیّ و حاضر پیش روی ماست. شاید به دلیل همین تنگنا است که برخی صاحب‌نظران این حوزه، که اسیر زرق و برق و ظواهر جهان سومیِ هوش مصنوعی نشده‌اند، سخن‌گفتن در باب مفاهیمی مانند «هوش جامع» (AGL) و حکم دادن به توانایی آن برای حل هر مسأله دلخواه را در حال حاضر آرزو قلمداد می‌کنند. 

این تعاریف یک مشکل بزرگ دارند: تفکیکی میان هوش مصنوعی به مثابه ابزار با هوش مصنوعی به مثابه ماشینی که علی‌الادّعا می‌خواهد وظایفی را انجام دهد که نیازمند «هوشمندی» است، نمی‌نهند. توجه به این نکات پیشینی ِ مهم، محتاج داشتن دیدگاهی معرفت‌شناسانه و کل‌نگر به موضوع است. مبتنی بر این دیدگاه کل‌نگر است که مثلاً می‌پرسیم آیا هوش طبیعی را می‌توان چنان تبیین کرد که ماشین بتواند آن را تقلید و بازنمایی کند؟ پای افسانه‌ها و داستان‌های تخیلی و آینده‌پژوهی (!) نیز درست از همین جا به ماجرا باز می‌شود و کار به جایی می‌رسد که برخی ذوق‌مرگ شده و از کنارگذاشتن مطلق انسان در آینده‌ای نزدیک سخن می‌‎گویند! 

موضوع مهم دیگر، نسبت میان هوش مصنوعی / تکنولوژی و «ما» است. برخی متفکران معاصر از این نسبت با تعابیری چون «بی‌تاریخی ما» یاد می‌کنند و از لزوم «فهم تجدد» می‌گویند (دکتر رضا داوری). در نظر اینان، جهانِ در حال توسعه و مظاهر فنّآورانه‌اش، مجموعه‌ای از خوبی‌ها و بدی‌ها نیست که بتوانیم براحتی و با اراده خود خوبی‌هایش را انتخاب و مصرف کنیم و بدی‌هایش را واگذاریم. مسأله این است که برای این گزینش باید طرحی کلی داشته باشیم و به شرایط فرامتنی و انضمامی آن عمیقاً بیندیشیم.

این در حالی است که نوشته‌های پیرامون ما درباره هوش مصنوعی، به عنوان یکی از فراورده‌های فنّآورانه دروان ما، لبریزند از تعریف نصفه نیمه مفاهیم، بیان ضرورت‌ها و ملاحظات ریز و درشت درباره هوش مصنوعی و بایستگی‌های نسبت آن با مظاهر حوزه عمومی مانند کتابخانه‌. آیا این اندازه کارساز است؟ آیا نسبتی شناختی و عملی با واقعیت‌های پیرامون ما دارد؟ جواب، اگر یکسره منفی نباشد، چندان مثبت نیست.                                                                              
برای ترسیم موقعیت حوزه ایرانی در این بحث، خوب است به هوش مصنوعی به مثابه مظهر تکنولوژی نگاه کنیم. هوش مصنوعی، که حتی در خود غرب هم فرآورده‌ای جدید است، در هر صورت یک محصول تکنولوژیک است و برای فهم درست آن و رسیدن به همان نگاه کل‌نگر باید به ذات تکنولوژی رجوع کنیم. ذات تکنولوژی چیست؟ این پرسش، در بنیاد خود، سؤالی فلسفی است و فیلسوف باید به آن پاسخ بدهد، نه متخصص فنّآوری اطلاعات یا هر مصرف‌کننده عام دیگر.

مارتین هایدگر، فیلسوف و پدیدارشناس مشهور دوران ما، رساله مشهوری دارد به نام «پرسشی در باب تکنولوژی» که در آن می‌خواهد ما را به این نکته توجه دهد که ماهیت تکنولوژی، خود، امری تکنولوژیک نیست و باید میان ماهیت/ ذات تکنولوژی و مظاهر آن تفکیک کرد. هایدگر می‌گوید بدون این تفکیک مفهومی، انسان به یک شئ پذیرنده منفعل و «منبع ذخیره» صرف تبدیل خواهد شد. از نظر هایدگر، تکنولوژی می‌خواهد بر اشیا سیطره یابد. این ویژگی ذاتی تکنولوژی است که فرصت آشکارگیِ ذات آن را از ما دریغ می‌کند. بله، تکنولوژی ابزار است، اما بی‌طرف و خنثی نیست و گاهی چنان از خواست انسان فراتر می‌رود که او را وامی‌دارد جهان و مفاهیم را فقط از منظری تکنولوژیکی ببیند. هایدگر ما را متوجه این خطر می‌کند که نباید حقیقت تکنولوژی را به مظاهر آن تقلیل بدهیم و تکنولوژی را فقط به مثابه محصول نبینیم. تکنولوژی فقط وسیله انجام کار نیست، بلکه موَلِّد، مفهوم‌ساز و هنجارآفرین هم هست. جان کلام هایدگر این است که تکنولوژی روشی برای ادراک است. اگر جز این باشد و از تکنولوژی فقط سودمندی و مزیت آن را ببینیم، از درک ذات تکنولوژی عاجزیم. البته هایدگر تأکید می‌کند که این توصیه هرگز به معنای نفی تکنولوژی، فرار از آن و شیطانی‌بودن آن نیست.

بعد از این مقدمه ببینیم هوش مصنوعی ـ به عنوان فرآورده‌ای تکنولوژیکی که محصول وضع غربی است ـ با کتابخانه‌ عمومی ایرانی چه ربطی می‌تواند داشته باشد. مسئله اوّل، چنان‌که گذشت، موضوع مهم حوزه مفاهیم و شناخت است. ما هوش مصنوعی را چه قدر می‌شناسیم؟ آیا آن را ماشینی می‌دانیم که کارکرد مغز/ ذهن را در قلمرو شناخت و حل مسأله صرفاً تقلید می‌کند؟ آیا کار هوش مصنوعی شبیه‌سازی انسان است؟ چه نسبتی با فرایندهای تفکّر یا رفتار دارد؟ 

فقط فکر کردن به این پرسش‌ها ما را از ذوق‌زدگی در مقابل هوش مصنوعی باز می‌دارد؛ چرا که طرح این سوالات اولاً به معنای یکدست و تمام‌نبودن تعاریف پیشنهادی از هوش مصنوعی است و ثانیاً و ضمناً به این معناست که پیشنهاددهندگان، به جز هوش مصنوعی، درباره مفهوم بسیار بنیادی دیگر، یعنی خود هوشمندی و رابطه بسیار مهم کارکردهای عقلانی با الگوهای غیرخطّیِ منطق، تبیینی ارائه نکرده‌اند. به بیانیه ایفلا و پیوست‌های سه گانه آن در باب نسبت میان هوش مصنوعی و کتابخانه‌های عمومی هم که مراجعه می‌کنیم، می‌بینیم به جز تأکید بر مفاهیمی مانند نقش هوش مصنوعی در مدیریت دانش در کتابخانه در حوزه‌های سازماندهی و ذخیره‌سازی، خواندن ماشینی و نقش آن در تکامل نظام‌های آموزشی و یادگیری مادام‌العمر، تقریباً به هیچ نکته فرامتنیِ مرتبط با حوزه عمومی اشاره نمی‌کند.

اگر هم درباره برخی تأثیرات احتمالی منفی و محدودیت‌های اخلاقی هوش مصنوعی اظهار نگرانی می‌کند، اما بر اصل ضرورت استفاده از آن تأکید می‌کند (چیزی که هیچ کس با آن مخالفت صریحی ندارد). این تأکید در حالی است که به معانی فرهنگی مفاهیم هم‌عرضی مانند سواد اطلاعاتی، سواد هوش مصنوعی، فقدان درک اولیه از چیستی و ضرورت هوش مصنوعی، مخاطرات خوانش دیجیتال، وابستگی به ماشین و اساساً زیرساخت‌های نرم‌افزارانه ـ و نه سخت‌افزارانه ـ کمتر توجه می‌شود یا اصلاً نمی‌شود.                                                                                                          

 با توجه به توصیه خردمندانه هایدگر باید بگوییم درست است که کتابخانه عمومی ـ به وصف عمومیتش ـ باید خدماتش را مطابق با نیازهای متغیر مردم تنظیم و هماهنگ کند، امّا با توجه به ذات سیطره‌جو و دگرگون‌کننده هوش مصنوعی، و اساساً تکنولوژی دیجیتال، کتابخانه باید قبلاً به آن مقام و موقعیتِ شناختی دست یافته باشد تا بتواند هوش مصنوعی را موضوع ارائه خدمت خود به کاربران قرار دهد. با توجه به این ضرورت، حتماً لازم است کتابداران، به عنوان عوامل مؤثر انسانی، آموزش ببینند.

آموزش در اینجا صرفاً به معنای کسب مهارت نیست، بلکه به معنای آگاهی‌بخشی و ایجاد شناخت مبتنی بر عقلانیت انتقادی است. هوش مصنوعی اگر کاملاً پیش‌بینی‌پذیر و فراانسانی باشد، دیگر به هیچ جسم اندیشمندی که محتوای هوش مصنوعی را بامعنا و زنده نگه دارد، محتاج نخواهد بود و این آغاز اشتباهی مهلک است. هوش مصنوعی نباید به این منجر شود که ما نسخه‌ای کاملاً مصنوعی از خودمان را به کاربری که فقط اسیر جذابیت‌ها و تفاوت‌هاست ارائه دهیم.

کتابداری که ما او را «مشاور امین» عضو می‌دانیم باید به این معنا آموزش ببیند و بداند که مثلاً سواد دیجیتال فقط سواد الگوریتمی نیست و یک معنای کاملاً فردی و فرهنگی هم دارد. حتی اگر این پیش‌بینی که آینده جهان ما دیجیتالی / مصنوعی است کاملاً درست و مطابق با واقع باشد، باید این آینده را «انتخاب» کنیم و این بدون آگاهی غیرممکن است. همین آگاهی (به این معنا که سوژه شناسایی، متعَلَّق شناخت ما قرار گیرد) است که باید ما را به سمت آموزش و مهارت‌افزایی ببرد. در غیر این صورت، آموزش تقلیل خواهد یافت به «ساده‌سازی یادگیری» (عبارت اداری و ابلهانه آن «تسهیل یادگیری» است)؛ در حالی که آموزش واقعی، تکرار و گسترش تجربه زیسته آدمیان است نه فقط قرارگرفتن در فرایند یادگیری. این مفهوم فلسفی ـ روان‌شناختی از آموزش است که هویت می‌سازد و فراتر از دانش، بینش تولید می‌کند و «وضعیت» می‌آفریند. از سوی دیگر، زیرساخت‌های هوش مصنوعی که توسط سیاست‌گذاران و مدیران نوشته و اجرا می‌شود نیز باید به همین نسبت شناختی توجه داشته باشد و آن را بسیار فراتر از یک پروژه مدیریتیِ ویترین پرکن ببیند. 

برخی چالش‌های هوش مصنوعی و حوزه عمومی (و از جمله کتابخانه عمومی) دقیقاً همان مواردی است که گروهی آنها را در شمار توصیفات اثباتی هوش مصنوعی آورده‌اند. رویکرد تقابل‌گون هوش مصنوعی به آزادیِ عامل انسانی از یک سو و لزوم رعایت حریم فردی او از سوی دیگر، از این قبیل است. در کتابخانه عمومی ممکن است حجم فراوانی از اطلاعلات شخصی افراد ـ که شامل پسندها و تمایلات اجتماعی، سیاسی، فرهنگی و نژادی آنان نیز می‌شود ـ ذخیره و در مقاصدی غیرکتابخانه‌ای از آنها استفاده شود. اگرچه این محدود کردن آزادی‌های فردی، در کنشگری کتابدار / مسئول کتابخانه ظهور می‌یابد، اما خاستگاه آن قدرت هوش مصنوعی است که علیه خودش وارد عمل می‌شود؛ یعنی با سوءاستفاده از آزادی عملی که فنّآوری برای سیستم به ارمغان می‌آورَد، در واقع، خودمختاری و خلاقیت عضو را تهدید می‌کند.  

چالش دیگر، مسأله بی‌عدالتی و تبعیض در عملکرد هوش مصنوعی است. خامی است اگر هوش مصنوعی را در نگرش سیاسی‌اش خنثی و فارغ از سوگیری بدانیم؛ اگر نگوییم اساساً ابژکتیو و لذا مصداق بارز امر سیاسی است. مدیران غربی شرکت‌های هوش مصنوعی، قدیس نیستند که از وضع استانداردهای یک‌سویه غربی در این زمینه چشم‌پوشی کنند، و فراوان دیده‌ایم که این استانداردها زمینه‌ساز تبعیض شده‌اند و صد البته روشن است اگر سوگیری الگوریتمیِ هوش مصنوعی پایش به آستانه تبعیض برسد، کتابخانه و غیر کتابخانه برایش یکی است. چه کسی می‌تواند مطمئن باشد که نظامات هوش مصنوعی، از طریق تمرکز قدرت در موقعیت‌های خاص، ضد مردم‌سالاری ـ که رکن کتابخانه عمومی به مثابه پایگاه اجتماعی است ـ عمل نکند و خود به عامل مهارناپذیر قدرت تبدیل نشود و بر خلاف رابطه معقول میان حاکم و شهروند عمل نکند؟ چه کسی می‌تواند مطمئن باشد که هوش مصنوعی، خود، عامل بازتولید تبعیض نشود؟

چالش دیگر فنّآوری هوش مصنوعی در حوزه کتابخانه عمومی، نفی سرمایه اجتماعی و «ساختن» افکار عمومی / عوام‌فریبی است. چگونه؟ از راه انتشار هوشمند اطلاعات نادرست. در این جا هوش مصنوعی، برای سامان‌دهی به انبوه اطلاعات و مقابله با سرعت سرسام‌آور تولید محتوا، چه بسا خود موجب بروز چالش جدیدی می‌شود و با عقب‌راندن یا کندکردن فرایند مدیریت اطلاعات، به نوعی شتاب مصنوعی در این فضا دامن می‌زند و، در نتیجه، هم با تضعیف اعتماد دولت ـ ملت، به نفی مشارکت می‌انجامد و هم از توجه به «نیاز واقعی مردم» فاصله می‌گیرد.  

مهم‌ترین چالش هوش مصنوعی برای ما وابستگی و الگوریتم‌محوری است و این‌که میزان و کیفیت نیاز ما و حد گسترش و نفوذ هوش مصنوعی تا کجاست و چه کسی آن را معلوم می‌کند. نگرانی این است که در این جایگزینی یا همکاری هوش مصنوعی با انسان، روح و جسم انسان، بی‌محافظت، رها نشده و باب «بهتر فهمیدن» بسته نشود. وقتی می‌توانیم بگوییم هوش مصنوعی و دنیای دیجیتال، منظق ارزش‌آفرینی در قلمرو فرهنگ و اجتماع «ما» ایجاد می‌کند و به کار ما می‌آید که فقط مصرف‌کننده نباشیم و در این سیر تحول، از تفکر به عملکرد برویم. 

۲۴۵۲۴۵