یافتههای هوش مصنوعی در علوم زمین
هوش مصنوعی در علوم زمین به واسطه تجزیه و تحلیل مجموعه دادههای بزرگ و پیچیده، مدلسازیها، پیشبینی، بهبود کارایی و کاهش هزینهها مورد استفاده قرار میگیرد. فصلنامه خورشید مشرق به منظور آشنایی مخاطبین با کاربردهای هوش مصنوعی در علوم زمین در هر شماره به معرفی جدیدترین پلتفرمها و مدلهای هوش مصنوعی پرکاربرد در گرایشهای مختلف دانش زمینشناسی و معدن خواهد پرداخت.
جدیدترین یافتههای هوش مصنوعی
Aurora؛ هوش مصنوعی که میخواهد زبان زمین را یاد بگیرد
توسط: سمیه آزادبخت
مقدمه
پیشبینی دقیق وضعیت زمین برای زندگی انسان، مدیریت بحرانهای طبیعی و بسیاری از فعالیتهای اقتصادی و اجتماعی اهمیت زیادی دارد. پیشبینی آبوهوا، کیفیت هوا، امواج اقیانوس و مسیر طوفانهای حارهای میتواند برای کاهش خسارات ناشی از حوادث طبیعی و تصمیمگیریهای بهموقع مورد استفاده قرار گیرد. مقاله حاضر مدل هوش مصنوعیAurora را معرفی میکند؛ مدلی که هدف آن ایجاد یک چارچوب عمومی برای پیشبینی پدیدههای مختلف سامانه زمین است.
روشهای سنتی پیشبینی زمین معمولاً بر مدلهای عددی پیچیدهای مبتنی هستند که دانش فیزیکی انباشتهشده طی دههها را در قالب معادلات و شبیهسازیهای عددی به کار میگیرند. این سامانهها بسیار قدرتمندند، اما اجرای آنها به ابررایانهها، دادههای فراوان، مهندسی تخصصی و زمان محاسباتی قابلتوجه نیاز دارد. علاوه بر این، این مدلها ناچارند برخی فرایندهای کوچکمقیاس را تقریب بزنند که میتواند بر دقت پیشبینی اثر بگذارد.
پیشرفتهای اخیر در هوش مصنوعی نشان دادهاند که شبکههای عصبی میتوانند برخی از این محاسبات پیچیده را با هزینه بسیار کمتر انجام دهند. مدلهایی مانند Pangu-Weather و GraphCast نشان دادند که هوش مصنوعی میتواند در پیشبینی میانمدت آبوهوا عملکرد بسیار خوبی داشته باشد. با این حال، پژوهشهای قبلی بیشتر بر پیشبینی آبوهوا متمرکز بودند و حوزههایی مانند شیمی جو، کیفیت هوا، امواج اقیانوس و پیشبینی طوفانهای حارهای کمتر مورد توجه قرار گرفته بودند.
Aurora با هدف پر کردن این شکاف طراحی شده است. این مدل روی بیش از یک میلیون ساعت داده مربوط به سامانه زمین پیش آموزش داده شده و سپس برای وظایف مختلف با استفاده از فرایند «ریزتنظیم» یا Fine-tuning آماده شده است. ایده اصلی این است که به جای ساختن یک مدل کاملاً جدید برای هر مسئله، یک مدل عمومی ابتدا الگوهای کلی پویایی جو و اقیانوس را یاد بگیرد و سپس برای کاربردهای مختلف سازگار شود.
۲. Aurora چگونه کار میکند؟
Aurora یک مدل پایه با حدود ۱.۳ میلیارد پارامتر است. این مدل میتواند مجموعههای متفاوتی از متغیرهای سامانه زمین را دریافت کند و با وضوحهای مکانی مختلف برای آنها پیشبینی انجام دهد. معماری مدل از سه بخش اصلی تشکیل شده است:
1. Encoder یا رمزگذار: دادههای ورودی با ساختارهای متفاوت را به یک نمایش سهبعدی مشترک تبدیل میکند.
2. Processor یا پردازشگر: این نمایش را در طول زمان تغییر میدهد و به نوعی پویایی سامانه زمین را شبیهسازی میکند.
3. Decoder یا رمزگشا: نمایش داخلی مدل را دوباره به پیشبینی متغیرهای موردنظر تبدیل میکند.
هسته پردازشی Aurora بر پایه 3D Swin Transformer ساخته شده و بخشهای رمزگذار و رمزگشا از ساختارهای مبتنی بر Perceiver استفاده میکنند. این طراحی به مدل اجازه میدهد دادههایی با تعداد متفاوت متغیرها، سطوح فشار جوی و وضوح مکانی متفاوت را پردازش کند.
آموزش Aurora در دو مفهوم اصلی انجام میشود: Pretraining و Fine-tuning. در مرحله پیشآموزش، مدل با مجموعه بزرگی از دادههای مختلف شامل پیشبینیها، دادههای تحلیلی، بازتحلیلها و شبیهسازیهای اقلیمی آموزش میبیند تا نمایش عمومی و قابلاستفادهای از پویایی سامانه زمین ایجاد کند. سپس در مرحله ریز تنظیم، همین دانش عمومی برای یک وظیفه مشخص مورد استفاده قرار میگیرد. این مرحله نسبت به پیشآموزش به داده و هزینه بسیار کمتری نیاز دارد.
نتایج نشان می دهد که افزایش تنوع دادههای آموزشی باعث بهبود عملکرد مدل میشود و افزایش اندازه مدل نیز اثر مثبتی دارد. نویسندگان گزارش میکنند که با هر ۱۰ برابر افزایش اندازه مدل، عملکرد اعتبارسنجی تقریباً ۶ درصد بهبود پیدا کرده است.
شکل ۱. Aurora یک مدل پایه با ۱٫۳ میلیارد پارامتر برای سامانه زمین است الف) مدل با دادههای متنوع سامانه زمین در تفکیکپذیریها و سطوح فشاری مختلف پیشآموزش داده شده و سپس برای کاربردهایی مانند کیفیت هوا، امواج اقیانوسی، ردیابی طوفانهای حارهای و پیشبینی آبوهوا تنظیم دقیق میشود. ب) معماری Aurora شامل رمزگذار، پردازشگر و رمزگشای سهبعدی است و میتواند دادههایی با تعداد متغیرها، سطوح فشاری و تفکیکپذیریهای متفاوت را پردازش کند.
۳. کاربرد اول: کیفیت هوا و شیمی جو
یکی از مهمترین آزمایشهای Aurora، پیشبینی ترکیبات شیمیایی جو و آلودگی هواست. پیشبینی کیفیت هوا از پیشبینی معمول آبوهوا پیچیدهتر است، زیرا علاوه بر حرکت جو، باید واکنشهای شیمیایی متعدد و تأثیر انتشار آلایندههای انسانی نیز در نظر گرفته شود.
Aurora برای پیشبینی موادی مانند مونوکسید کربن، اکسید نیتریک، دیاکسید نیتروژن، دیاکسید گوگرد، ازن و ذرات معلق PM1، PM2.5 و PM10 ریزتنظیم شد. دادههای CAMS بهعنوان مبنای ارزیابی استفاده شدند. نتایج نشان دادند که Aurora در ۷۴ درصد اهداف، عملکردی برابر یا بهتر از CAMS دارد و در ۹۵ درصد اهداف، خطای آن در محدودهٔ ۲۰ درصدی CAMS قرار میگیرد.
یکی از نکات مهم این آزمایش، سرعت بسیار بالاتر Aurora است.، Aurora پیشبینیهای خود را تقریباً در ۱.۱ ثانیه برای هر ساعت پیشبینی روی یک GPU از نوع A100 تولید میکند و این موضوع در آزمایش نویسندگان حدود ۵۰ هزار برابر سرعت بیشتر نسبت به CAMS را نشان میدهد. همچنین مدل توانست یک طوفان گردوغبار شدید در عراق را یک روز زودتر پیشبینی کند و عملکردی مشابه CAMS داشته باشد، اما با هزینه محاسباتی بسیار کمتر.
۴. کاربرد دوم: پیشبینی امواج اقیانوس
دومین حوزه بررسیشده، پیشبینی امواج اقیانوس است. چنین پیشبینیهایی برای کشتیرانی، دفاع از سواحل، آبزیپروری، انرژیهای دریایی و آمادگی در برابر حوادث طبیعی اهمیت دارند.
Aurora با استفاده از دادههای مدل HRES-WAM برای پیشبینی متغیرهایی مانند ارتفاع قابلتوجه موج، دوره متوسط موج و جهت متوسط موج ریزتنظیم شد. مدل برای پیشبینی امواج تا ۱۰ روز آینده مورد آزمایش قرار گرفت.
نتایج نشان داد که Aurora در ۹۶ درصد اهداف، عملکردی رقابتی با HRES-WAM دارد و در ۸۶ درصد متغیرهای موجی، عملکرد آن برابر یا بهتر از مدل مرجع بود. در پیشبینی سهروزه نیز Aurora در ۹۱ درصد متغیرهای سطحی برابر یا بهتر از HRES-WAM عمل کرد. مقاله همچنین عملکرد مدل را در جریان طوفان Nanmadol در ژاپن بررسی میکند و نشان میدهد که Aurora توانست امواج بزرگ مرتبط با این طوفان را بهخوبی شبیهسازی کند.
شکل 2: در یک محیط عملیاتی، Aurora در بیشتر مقایسهها با HRES-WAM برابر یا بهتر عمل میکند.
- a: Aurora ارتفاع موج شاخص و جهت میانگین موج را برای تایفون نانمادول (Typhoon Nammadol)، شدیدترین چرخند حارهای سال ۲۰۲۲، بهدقت پیشبینی میکند. کادر قرمز مکان تایفون را نشان میدهد و عدد، بیشینه ارتفاع موج شاخص است. پیشبینی Aurora و تحلیل HRES-WAM مربوط به ۱۷ سپتامبر ۲۰۲۲ ساعت ۱۲ UTC است، زمانی که تایفون نانمادول به اوج شدت خود رسید. Aurora در ۱۶ سپتامبر ۲۰۲۲ ساعت ۱۲ UTC مقداردهی اولیه شده بود.
- b در تمام افقهای زمانی، Aurora روی ۸۶٪ از کل متغیرهای موج با HRES-WAM برابر یا بهتر عمل میکند.
c- در افق زمانی سه روز، Aurora روی ۹۱٪ از کل متغیرهای سطحی با HRES-WAM برابر یا بهتر عمل میکند. برای نتایج کامل به Supplementary I.2 مراجعه کنید.
۵. کاربرد سوم: مسیر طوفانهای حارهای
یکی از مهمترین بخشها، پیشبینی مسیر طوفانهای حارهای است. این طوفانها میتوانند خسارات انسانی و اقتصادی بسیار بزرگی ایجاد کنند؛ بنابراین پیشبینی مسیر آنها برای سازمانهای امدادی و مردم اهمیت زیادی دارد.
پژوهشگران Aurora را برای پیشبینی مسیر طوفانها در چهار منطقه مختلف جهان آزمایش کردند و نتایج آن را با پیشبینیهای رسمی چندین مرکز هواشناسی مقایسه کردند. در مجموعه آزمایششده مربوط به سالهای ۲۰۲۲ و ۲۰۲۳، Aurora در مقایسههای انجامشده عملکرد بهتری از پیشبینیهای رسمی مسیر طوفان نشان داد. برای مثال، در اقیانوس اطلس شمالی و شرق اقیانوس آرام، بهبود گزارش شده در خطای مسیر از حدود ۶ درصد در یک روز تا حدود ۲۰ تا ۲۵ درصد در بازههای دو تا پنج روزه بود.
در آزمایشهای انجام گرفته نمونه طوفان Doksuri را نیز بررسی میکند. طبق نتایج ارائهشده، Aurora توانست چهار روز پیش از وقوع، مسیر فرود طوفان در فیلیپین را بهدرستی پیشبینی کند، در حالی که برخی پیشبینیهای رسمی در آن زمان مسیر متفاوتی را نشان میدادند. این آزمایش نشان میدهد که یک مدل هوش مصنوعی عمومی میتواند برای پیشبینی رخدادهای شدید نیز کاربرد داشته باشد.
شکل 3: در یک محیط عملیاتی، Aurora از سیستمهای پیشبینی چرخند حارهای (توفان حارهای) پیشرفته برای چندین سازمان و منطقه در سراسر جهان بهتر عمل میکند.
- aبه خطای مطلق میانگین (MAE) بهتری در پیشبینی مسیر نسبت به چندین سازمان در مناطق مختلف دست مییابد. پیشبینیهای رسمی توسط OFCL، PGTW، CWA، BABJ، RJTD، RKSL و BoM (پررنگ) ارائه میشوند. برای شمال اقیانوس اطلس و شرق اقیانوس آرام، علاوه بر این با چندین مدل مورد استفاده در تولید OFCL (غیرپررنگ) مقایسه میکنیم. یک مدل همیشه پیشبینی ارائه نمیدهد، بنابراین ستونهای مختلف روی دادههای متفاوتی محاسبه میشوند. بنابراین ستونها نشاندهنده عملکرد مدل نیستند و تنها عملکرد را نسبت به Aurora نشان میدهند. در اینجا ≈ نشان میدهد که بازه اطمینان ۹۵٪ برای آن خانه شامل صفر است (برای جزئیات به Supplementary I.3.4 مراجعه کنید). بهطور میانگین، Aurora در شمال اقیانوس اطلس و شرق اقیانوس آرام ۲۰٪ بهتر از سایر سازمانها، در غرب اقیانوس آرام ۱۸٪ بهتر و در منطقه استرالیا ۲۴٪ بهتر است.
b: در ۲۱ ژوئیه، یک افت فشار حارهای به طوفان حارهای تشدید شد و تایفون دوکسوری (Doksuri) نام گرفت. دوکسوری به گرانترین تایفون اقیانوس آرام تا آن زمان تبدیل شد و بیش از ۲۸ میلیارد دلار خسارت وارد کرد. Aurora بهدرستی پیشبینی میکند که دوکسوری در شمال فیلیپین به خشکی میرسد، در حالی که PGTW پیشبینی میکند که از روی تایوان عبور خواهد کرد.
۶. کاربرد چهارم: پیشبینی آبوهوا با وضوح بالا
بخش دیگری از پژوهش به پیشبینی آبوهوا با وضوح ۰.۱ درجه اختصاص دارد. این وضوح برای تشخیص بهتر پدیدههای کوچکمقیاس و رویدادهای شدید آبوهوایی اهمیت دارد.
Aurora در این آزمایش با دادههای IFS HRES ریزتنظیم شد. نتایج نشان داد که مدل در ۹۲ درصد متغیرها، سطوح فشار و زمانهای پیشبینیشده، RMSE کمتری نسبت به IFS HRES دارد. بیشترین بهبود در زمانهای بیش از ۱۲ ساعت مشاهده شد و کاهش خطا در برخی موارد به ۲۴ درصد رسید. همچنین در مقایسه با اندازهگیریهای بیش از ۱۳ هزار ایستگاه هواشناسی در سراسر جهان، Aurora برای تمام زمانهای پیشبینی تا ۱۰ روز عملکرد بهتری نسبت به IFS HRES نشان داد.
پژوهشگران همچنین طوفان Ciarán را بررسی کردند. در این مطالعه Aurora توانست افزایش ناگهانی سرعت بیشینه باد در ارتفاع ۱۰ متری را پیشبینی کند؛ پدیدهای که سایر مدلهای هوش مصنوعی بررسیشده در این آزمایش نتوانستند با همان دقت ثبت کنند.
شکل ۵: در یک محیط عملیاتی، Aurora در اکثریت قریب به اتفاق مقایسهها از IFS HRES با تفکیکپذیری ۰.۱ درجه بهتر عمل میکند. Aurora تنها مدل هوش مصنوعی است که بیشینه سرعت باد ۱۰ متری را در طوفان کیاران (Ciarán) بهدرستی تخمین میزند.
- a: Aurora روی بیش از ۹۲٪ از اهداف از IFS HRES بهتر عمل میکند. این کارت امتیاز به سطوح فشاری پایینتر جو محدود شده است، به دلیل دسترسی محدود به دادههای سال آزمون.
- b خطای جذر میانگین مربعات (RMSE) سرعت باد که در برابر اندازهگیریهای ایستگاههای هواشناسی محاسبه شده است. Aurora بهطور قابلتوجهی از IFS HRES بهتر عمل میکند.
- c پیشبینیهای عملیاتی برای طوفان کیاران در مقایسه با تحلیل IFS HRES با تفکیکپذیری ۰.۱ درجه. نقاط سیاه مکان کمینه MSL را نشان میدهند و بنابراین مسیر طوفان را ردیابی میکنند. بیشینه سرعت باد ۱۰ متری طوفان در گوشه پایین سمت چپ هر پیشبینی نشان داده شده است. برای تسهیل بهتر پیشبینی رویدادهای حدی، Aurora بدون LoRA اجرا شد. به Supplementary I.7 مراجعه کنید.
d: پیشبینیهای عملیاتی برای بیشینهٔ سرعت باد ۱۰ متری در طول طوفان کیاران توسط Aurora، FourCastNet، GraphCast و Pangu-Weather. Aurora قادر است افزایش ناگهانی سرعت باد ۱۰ متری را پیشبینی کند، برخلاف سایر مدلهای هوش مصنوعی. اعداد برای همه مدلهای هوش مصنوعی بهجز Aurora از شکل ۳ توسط Charlton-Perez و همکاران [2024] استخراج شدهاند.
۷. اهمیت و محدودیتهای Aurora
نتایج کلی مطالعات نشان میدهد که Aurora یک مدل عمومی است که میتواند در چند حوزه متفاوت سامانه زمین مورد استفاده قرار گیرد. یکی از ویژگیهای مهم آن این است که برای هر کاربرد لازم نیست یک مدل کاملاً مستقل از ابتدا ساخته شود. مدل ابتدا دانش عمومی خود را از دادههای گسترده یاد میگیرد و سپس میتوان آن را با هزینه نسبتاً کم برای کاربرد جدید ریزتنظیم کرد.
پژوهشگران گزارش میکنند که هر آزمایش ریزتنظیم از ابتدا تا پایان، برای یک تیم کوچک مهندسی حدود چهار تا هشت هفته زمان برده است؛ در حالی که توسعه مدلهای دینامیکی سنتی معمولاً سالها طول میکشد. البته خود مقاله تأکید میکند که این سرعت تا حد زیادی به دلیل وجود حجم عظیمی از دادهها و پژوهشهای چند دههٔ گذشته در زمینهٔ مدلسازی عددی زمین امکانپذیر شده است.
با وجود این دستاوردها، Aurora هنوز محدودیتهایی دارد. مدل در آزمایشهای مقاله همچنان به شرایط اولیهای متکی است که از سامانههای سنتی جذب و ادغام داده به دست میآیند. همچنین نویسندگان معتقدند که برای کاربردهایی با عدم قطعیت بالا، مانند پیشبینیهای بلندمدت یا پدیدههای محلی، تولید مجموعهای از پیشبینیها یا ensemble forecasts اهمیت خواهد داشت. آنها همچنین امکان آموزش مدل با دادههای متنوعتر و ساخت مدلهای بزرگتر را بهعنوان مسیرهای آینده مطرح میکنند.
۸. جمعبندی
Aurora تلاشی برای ایجاد یک مدل پایه هوش مصنوعی برای سامانه زمین است؛ یعنی مدلی که به جای تمرکز صرف بر یک نوع پیشبینی، بتواند دانش عمومی درباره رفتار جو، اقیانوس و فرایندهای مرتبط را یاد بگیرد و سپس برای مسائل مختلف مورد استفاده قرار گیرد.
مهمترین دستاورد مقاله این است که یک مدل واحد، پس از پیشآموزش گسترده، میتواند برای چهار حوزه متفاوت شامل کیفیت هوا، امواج اقیانوس، مسیر طوفانهای حارهای و پیشبینی آبوهوای با وضوح بالا ریزتنظیم شود و در آزمایشهای گزارششده با سامانههای عملیاتی تخصصی رقابت کند یا از آنها بهتر عمل کند، در حالی که هزینه محاسباتی بسیار پایینتری دارد.
از نگاه نویسندگان، این رویکرد میتواند در آینده به حوزههای دیگری مانند گردش اقیانوس، پیشبینیهای محلی و منطقهای آبوهوا، پیشبینیهای فصلی، رشد پوشش گیاهی، سیلاب، آتشسوزی، کشاورزی، تولید انرژیهای تجدیدپذیر و یخ دریایی گسترش یابد. هدف نهایی، فراهمکردن امکان تولید پیشبینیهای کاربردی سامانه زمین با هزینهای بسیار کمتر و دسترسی آسانتر است.
در مجموع، Aurora نشان میدهد که مسیر پیشبینی سامانه زمین میتواند از مدلهای جداگانه و تخصصی به سمت مدلهای عمومی و قابلتطبیق حرکت کند. با این حال، نتایج ارائهشده مربوط به آزمایشهای مشخص این پژوهش است و خود نویسندگان نیز بر ادامه توسعه مدل، افزایش تنوع دادهها، تولید پیشبینیهای احتمالاتی و کاهش وابستگی به سامانههای سنتی تأکید دارند.
References
Bodnar, C., Bruinsma, W. P., Lucic, A., Stanley, M., Vaughan, A., Brandstetter, J., Garvan, P., Riechert, M., Weyn, J. A., Dong, H., Gupta, J. K., Thambiratnam, K., Archibald, A. T., Wu, C.-C., Heider, E., Welling, M., Turner, R. E., & Perdikaris, P. (2024). A Foundation Model for the Earth System. arXiv. https://arxiv.org/abs/2405.13063
Abramson, J., Adler, J., Dunger, J., Evans, R., Green, T., Pritzel, A., Ronneberger, O., Willmore, L., Ballard, A.J., Bambrick, J., et al.: Accurate structure prediction of biomolecular interactions with alphafold 3. Nature, 1–3 (2024)
Ben-Bouallegue, Z., Clare, M.C.A., Magnusson, L., Gascon, E., Maier-Gerber, M., Janousek, M., Rodwell, M., Pinault, F., Dramsch, J.S., Lang, S.T.K., Raoult, B., Rabier, F., Chevallier, M., Sandu, I., Dueben, P., Chantry, M., Pappenberger, F.: The rise of data-driven weather forecasting: A first statistical assessment of machine learning-based weather forecasts in an operational-like context. Bulletin of the American Meteorological Society (2024)
Bi, K., Xie, L., Zhang, H., Chen, X., Gu, X., Tian, Q.: Accurate medium-range global weather forecasting with 3d neural networks. Nature 619(7970), 533–538 (2023) https://doi.org/10.1038/s41586-023-06185-3
Bonev, B., Kurth, T., Hundt, C., Pathak, J., Baust, M., Kashinath, K., Anandkumar, A.: Spherical Fourier neural operators: Learning stable dynamics on the sphere. In: Krause, A., Brunskill, E., Cho, K., Engelhardt, B., Sabato, S., Scarlett, J. (eds.) Proceedings of the 40th International Conference on Machine Learning. Proceedings of Machine Learning Research, vol. 202, pp. 2806–2823. PMLR, Honolulu, Hawaii, USA (2023).
https://proceedings.mlr.press/v202/bonev23a.html
Boussious, L., Zeng, C., Guénais, T., Bertsimas, D.: Hurricane forecasting: A novel multimodal machine learning framework. Weather and forecasting 37(6), 817–831 (2022)