تو این چند سال اخیر، بحث ترکیب هوش مصنوعی با پیدا کردن داروهای جدید حسابی داغ شده و خیلیا رو هیجانزده کرده. راستش رو بخواین، هوش مصنوعی (Artificial Intelligence یا همون AI) یعنی همون کامپیوترها یا الگوریتمهایی که میتونن مثل آدم فکر کنن یا حتی باهوشتر باشن! حالا تصور کنین این قدرت رو بذاریم وسط کشف دارو، دیگه قراره چه اتفاقایی بیفته!
ولی یه نکته اساسی این وسط هست که نباید ازش غافل شد: همسویی یا Alignment با ارزشها و اهداف انسانی. منظور از AI alignment اینه که مطمئن شیم هوش مصنوععی واقعاً داره همون کارهایی رو انجام میده که ما میخوایم و برامون مهمه. چون اگه هوش مصنوعی اشتباه برداشت کنه یا اون طوری که ما توقع داریم رفتار نکنه، ممکنه کلی ریسک و دردسر درست کنه، مخصوصاً تو زمینه حساسی مثل کشف دارو (Drug Discovery).
خوب، حالا سوال: یعنی چی “همسو شدن هوش مصنوعی با انسانها”؟ خیلی ساده بگم: باید مطمئن بشیم که تصمیمهایی که AI میگیره، هم با منافع همه مردم جور درمیاد و هم قابل فهم باشه. مثلاً وقتی یه مدل هوش مصنوعی یه دارو پیشنهاد میده، بهتره بدونیم چرا اون انتخاب رو انجام داده، نه اینکه فقط به یه جواب عجیب و غریب برسیم که هیچکی نفهمه قضیه از چه قراره. به این قضیه میگن interpretability — یعنی قابل تفسیر و شفاف بودن تصمیمهای هوش مصنوعی.
توی این مسیر، روشها و چارچوبهای مختلفی برای human-centered AI یا همون هوش مصنوعی انسانمحور طراحی شده. Human-centered AI همون جریانه که اولویتش رو میذاره رو راحتی و امنیت و نفع آدمها. این چارچوبها کمک میکنن مدلهای هوش مصنوعی هم دقیقتر باشن (یعنی robust بشن و تو شرایط مختلف کیفیتشون رو از دست ندن) و هم نتیجههایی بدن که قابل فهم باشه.
اما خب، چالش هم کم نداریم! یکی از سختترین بخشها اینه که چطوری ارزشهای اخلاقی و انسانی رو دقیق و درست بیاریم توی الگوریتمای هوش مصنوعی و مطمئن باشیم این ارزشها سرجاشون میمونن و تغییر نمیکنن. این کار، هم تخصص میخواد، هم همکاری نزدیک بین آدمای فنی و متخصصای حوزههای دیگه.
ضمن اینکه، کلی استراتژی و روش هست تا بتونیم سیستمهای هوش مصنوعی رو برای کشف داروهای جدید، با ارزشها و هدفهای انسانی یهجور سیستماتیک و منظم قاطی کنیم. این یعنی دیگه نباید بذاریم AI راه خودش رو صددرصد بره، بلکه باید دائما کنترلش کنیم هروقت خواست از مسیر خارج بشه، برش گردونیم.
درنهایت بخوام جمعبندی کنم: آینده کشف دارو کاملاً وابسته به اینه که هوش مصنوعی واقعاً همسو با انسانها حرکت کنه و حرف مایی رو بزنه که به نفع کل جامعه باشه. خلاصه بگم: اگه واقعا میخواین هوش مصنوعی به درد کشف دارو بخوره، اول و آخرش باید alignment داشته باشه؛ یعنی کاملاً با ارزشها و هدفهای انسانی همراه و یکی باشه!
منبع: +
