ورود هوش مصنوعی به دستور کار شورای امنیت سازمان ملل
سیب پال: نشست 23 سپتامبر 2026 شورای امنیت سازمان ملل متحد درباره ی هوش مصنوعی را باید در قالب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد.
به گزارش سیب پال به نقل از مهر؛ نشست ۲۳ سپتامبر ۲۰۲۶ شورای امنیت سازمان ملل متحد در رابطه با هوش مصنوعی را باید در قالب یک تحول مهم در جایگاه سیاسی این فناوری مورد بازخوانی قرار داد. حضور سم آلتمن، مدیر عامل اوپن ای آی، داریو آمودی، مدیر عامل آنتروپیک، کلمنت دولانگ، هم بنیان گذار هاگینگ فیس و یوشوا بنجیو، یکی از برجسته ترین محققان هوش مصنوعی، در این جلسه، مبین ورود مخاطرات مدلهای پیشرفته هوش مصنوعی به سطح مباحث امنیت بین المللی است. طبق گزارش رویترز، این نشست به ابتکار فرانسه و هم زمان با مجمع عمومی سازمان ملل برگزار شد و محور اصلی آن خطراتی بود که با افزایش توانایی سامانه های هوش مصنوعی و احتمال حرکت آنها به سمت خودبهبوددهی مطرح گردیده است.
اهمیت نشست در این حقیقت نهفته است که مساله حول کاربردهای متعارف هوش مصنوعی یا آثار اقتصادی آن سازمان نیافته بود. بر همین اساس، آمودی طی سخنرانی خود در مقابل اعضای شورای امنیت خاطرنشان کرد که مدیریت نامناسب این فناوری می تواند هوش مصنوعی را به خطری برای کل بشریت تبدیل کند. استدلال او بر ماهیت فرامرزی مساله استوار بود. هیچ شرکت، دولت یا رهبر سیاسی به تنهایی قادر به مدیریت مجموعه فرصت ها و مخاطرات ناشی از این تکنولوژی نخواهد بود.
از ایمنی مدل تا مساله امنیت بین المللی
یکی از مهم ترین وجوه این تحول، تغییر مقیاس خطر است. مباحث اولیه ایمنی هوش مصنوعی به طور عمده بر خطا، سوگیری، حریم خصوصی و آثار اجتماعی الگوریتم ها متمرکز بود. مباحث عنوان شده در شورای امنیت دامنه دیگری از مخاطرات را برجسته می سازد که در آن از امنیت زیستی، تهاجمات سایبری، از دست رفتن کنترل انسانی و مخاطرات ناشی از سامانه های دارای عاملیت سخن گفته می شود.
اظهارات آمودی این تغییر مقیاس را به روشنی بازتاب می دهد. او خواستار ایجاد توافق های بین المللی در چند حوزه مشخص شده است که همچون آنها می توان به ممنوعیت استفاده از هوش مصنوعی برای توسعه سلاح های زیستی و ایجاد معیارهای جهانی برای آزمون مدلهای جدید اشاره نمود. گاردین همینطور گزارش می دهد که نگرانی اصلی مدیر عامل آنتروپیک به احتمال از دست رفتن کنترل توسعه دهندگان بر سامانه های پیشرفته مربوط می شود.
از سوی دیگر، یوشوا بنجیو هم مساله را با ادبیاتی صریح در مقابل شورای امنیت بیان کرد و خطرات را حقیقی و قریب الوقوع خواند. توصیف او از تهدیدی که مرزهای سیاسی را به رسمیت نمی شناسد و هیچ دولت منفردی قادر به مهار آن نیست، عملا مساله ایمنی هوش مصنوعی را وارد منطق مسایل اقدام جمعی می کند.
آزمایشگاه های خصوصی در مقابل مساله اقتدار عمومی
دومین محور اساسی نشست به پرسش از محل تصمیم گیری در رابطه با آینده هوش مصنوعی مربوط می شود. آلتمن با حاضر شدن در نشست شورای امنیت اظهار داشت که تصمیم های اساسی در رابطه با هوش مصنوعی نمی تواند در لابراتوار های سان فرانسیسکو متمرکز بماند و این تصمیم ها باید از مجاری دموکراتیک و به وسیله دولت های پاسخگو در مقابل مردم شکل بگیرند.
اهمیت این گزاره از موقعیت گوینده آن ناشی می شود. توسعه مدلهای مرزی تا حد زیادی در اختیار شمار محدودی از شرکت های خصوصی قرار گرفته است. در چنین ساختاری، شرکتی که در رابطه با معماری مدل، محدودیت های ایمنی، سطح دسترسی یا زمان ارائه تصمیم می گیرد، عملا در رابطه با بخشی از توزیع قدرت فناورانه هم تصمیم گیری کرده است. انتقال بحث به شورای امنیت از این منظر حامل یک پرسش بنیادین است. هنگامی که نتایج تصمیم یک لابراتوار خصوصی می تواند از قلمرو یک کشور عبور کند، مرز صلاحیت شرکت و مسئولیت دولت کجا قرار می گیرد؟
آلتمن برای پاسخ به این مساله سه اصل را بیان نمود. سامانه های هوش مصنوعی باید تحت کنترل انسان باقی بمانند، منافع ملموسی برای انسان ها ایجاد کنند و قدرت عمل افراد را بالا برند. کارشناسان این موضع را مسیر میانه ای توصیف می کنند که آلتمن در مقابل دو قطب خوش بینی بی قید و نگاه های آخرالزمانی به فناوری مطرح کرده است.
حمله هوش مصنوعی به هوش مصنوعی
شاید ملموس ترین بخش نشست به امنیت سایبری مربوط باشد. در همین جهت، کلمنت دولانگ، هم بنیان گذار پلت فرم هوش مصنوعی هاگینگ فیس، به حادثه ای اشاره نمود که طی آن عامل های اوپن ای آی بعد از خروج از محیط آزمایشی به زیرساخت این شرکت نفوذ کردند و واکنش دفاعی هم با استفاده از هوش مصنوعی صورت پذیرفت. تعبیر او که با هوش مصنوعی مورد حمله قرار گرفتیم و با هوش مصنوعی دفاع کردیم، تصویری فشرده از یکی از مهم ترین تحولات امنیت سایبری آینده عرضه می کند.
این رخداد از منظر امنیتی اهمیت مضاعف دارد. توسعه عامل های برخوردار از توانایی اجرای مستقل مجموعه ای از اقدامات، فاصله میان تولید محتوا و کنش عملیاتی را می کاهد. مساله در چنین محیطی دیگر صرفا کیفیت پاسخ یک مدل زبانی نیست. دامنه مجوزهای عامل، دسترسی آن به ابزارها، امکان خروج از محیط آزمون، نظارت انسانی، ثبت اقدامات و سازوکار توقف اضطراری به اجزای اصلی معماری امنیت تبدیل می شوند.
شکاف بزرگ بر سر شکل حکمرانی جهانی
بسیاری از متخصصان اذعان دارند که توافق در رابطه با وجود خطر، الزاماً به توافق در رابطه با شکل تنظیم گری منتهی نشده است. همین شکاف در نشست اخیر شورای امنیت هم آشکار بود. بر همین اساس، دولت آمریکا با تشکیل یک سازوکار تنظیم گری جهانی فراگیر مخالفت کرد. مایکل کراتسیوس، مشاور علم و فناوری کاخ سفید، استدلال کرد که نهادهای بین المللی باید بر تبادل رویه های مناسب و تقویت ظرفیت داخلی کشورها متمرکز شوند. این در حالیست که موضع چین در این خصوص متفاوت بود و فو کونگ، نماینده چین در سازمان ملل، بر بهبود مستمر چارچوب های تنظیم گری، سازوکارهای واکنش اضطراری و همکاری فرامرزی تاکید کرد.
این اختلاف، یکی از گره های اصلی حکمرانی جهانی هوش مصنوعی را آشکار می کند. اجماع اولیه در رابطه با لزوم مدیریت مخاطرات درحال ایجاد است، اما رقابت بر سر مرجع تنظیم قواعد، دامنه الزامات و میزان اختیار نهادهای بین المللی همچنان ادامه دارد. آمریکا، چین، شرکت های بزرگ فناوری و سازمان ملل متحد از نقطه های متفاوتی به مساله می پرداند و هر یک برداشت متفاوتی از نسبت نوآوری، امنیت، حاکمیت ملی و تنظیم گری فرامرزی دارند.
شورای امنیت و آغاز یک دستور کار تازه
در نهایت، ورود مدیران برجسته صنعت هوش مصنوعی به شورای امنیت را می توان نشانه بلوغ یک روند دانست که از سالهای گذشته شروع شده بود. شورای امنیت اولین بار در سال ۲۰۲۳ در رابطه با مخاطرات هوش مصنوعی تشکیل جلسه داد و در سال ۲۰۲۴ هم نشست دیگری در این مورد اجرا شد. در عین حال، نشست ۲۰۲۶ یک عنصر تازه به این مسیر افزوده است. این دفعه مدیران شرکت هایی که در مرز توسعه مدلهای پیشرفته قرار دارند، خود در مقابل این نهاد بین المللی قرار گرفته اند.
معنای عمیق تر این تحول در تغییر مبحث حکمرانی هوش مصنوعی نهفته است. هرچه سامانه های هوش مصنوعی از ابزارهای پاسخگو به عامل های قادر به برنامه ریزی، استفاده از ابزار و اجرای زنجیره ای اقدامات نزدیک تر شوند، مرز میان ایمنی فنی و امنیت ملی و بین الملل هم باریک تر خواهد شد. امنیت زیستی، امنیت سایبری، زیرساخت های حیاتی و کنترل انسانی بر سامانه های پیشرفته در چنین محیطی اجزای یک مساله مشترک خواهند شد.
نشست سپتامبر ۲۰۲۶ هنوز پاسخ نهائی در رابطه با معماری حکمرانی این فناوری عرضه نکرده است و ارزش آن صرفا در آشکار ساختن صورت مساله ای است که احتمالا بخش مهمی از دستور کار بین المللی سالهای آینده را شکل خواهد داد. مرکز ثقل بحث بتدریج از این پرسش که هوش مصنوعی چه قابلیت هایی دارد، به پرسشی دشوارتر تغییر می کند. چه کسی باید در رابطه با حدود این توانایی ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چطور باید قبل از آن که سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
حرف آخر اینکه این رخداد از منظر امنیتی اهمیت مضاعف دارد. خیلی از متخصصان اذعان دارند که توافق در ارتباط با وجود خطر، الزاماً به توافق در ارتباط با شکل تنظیم گری منتهی نشده است. چه کسی باید در ارتباط با حدود این قابلیت ها تصمیم بگیرد، چه نهادی مسئول مهار خطرات فرامرزی است و قواعد مشترک چه طور باید پیش از آن که سرعت تحول فناوری از ظرفیت واکنش دولت ها پیشی بگیرد، ساخته شوند؟
منبع: digitaler.ir
این مطلب را می پسندید؟
(0)
(0)
جدیدترین مطالب مرتبط در سیب پال
نظرات بینندگان سیب پال در مورد این مطلب