در بسیاری از مسائل علمی و مهندسی، تنها دانستن اینکه چه اتفاقی خواهد افتاد کافی نیست؛ بلکه می‌خواهیم بدانیم چرا اتفاق می‌افتد و اگر در سیستم تغییری ایجاد کنیم، چه پیامدی خواهد داشت.
این تفاوت ساده، مرز میان «پیش‌بینی» و «استدلال علّی» را مشخص می‌کند.
فرض کنید داده‌های یک سامانه صنعتی نشان می‌دهد هرگاه دمای یک تجهیز افزایش پیدا می‌کند، احتمال خرابی آن نیز بیشتر می‌شود. یک مدل یادگیری ماشین ممکن است بتواند بر اساس دما، احتمال خرابی را با دقت خوبی پیش‌بینی کند. اما پرسش مهم‌تری وجود دارد:
آیا افزایش دما واقعاً باعث خرابی می‌شود؟
یا هر دو پدیده نتیجه عامل دیگری، مانند افزایش بار کاری سیستم هستند؟
پاسخ به چنین پرسش‌هایی موضوع اصلی حوزه علیت یا Causality است.
همبستگی، الزاماً به معنای علیت نیست
یکی از شناخته‌شده‌ترین اصول در تحلیل داده این است:
Correlation does not imply causation.
یعنی وجود رابطه آماری میان دو متغیر، لزوماً به این معنا نیست که یکی علت دیگری است.
برای مثال، ممکن است در داده‌ها مشاهده کنیم:
افزایش بار سیستم → افزایش دما
و هم‌زمان:
افزایش بار سیستم → افزایش احتمال خرابی
در نتیجه میان «دما» و «خرابی» نیز یک رابطه آماری قوی مشاهده می‌شود. با این حال، اگر عامل اصلی هر دو پدیده بار سیستم باشد، صرفاً کاهش دما ممکن است آن اثری را که از روی داده‌ها انتظار داشتیم بر خرابی نداشته باشد.
بنابراین، تحلیل آماری معمولاً می‌گوید:
چه چیزهایی با یکدیگر تغییر می‌کنند؟
اما تحلیل علّی تلاش می‌کند پاسخ دهد:
اگر یکی از متغیرها را عمداً تغییر دهیم، چه اتفاقی برای بقیه سیستم خواهد افتاد؟
سه نوع پرسش درباره یک سیستم
برای درک بهتر اهمیت علیت، می‌توان پرسش‌هایی را که درباره یک سیستم مطرح می‌کنیم در سه سطح در نظر گرفت.
۱. مشاهده
در ساده‌ترین سطح می‌پرسیم:
چه چیزی مشاهده شده است؟
برای مثال:
«در چه شرایطی احتمال خرابی تجهیز بیشتر است؟»
مدل‌های آماری و بسیاری از روش‌های یادگیری ماشین در پاسخ به این نوع پرسش بسیار قدرتمند هستند.
۲. مداخله
در سطح بعد سؤال تغییر می‌کند:
اگر کاری انجام دهیم، چه خواهد شد؟
برای مثال:
«اگر دمای تجهیز را ۱۰ درجه کاهش دهیم، احتمال خرابی چقدر کاهش پیدا می‌کند؟»
این دیگر صرفاً یک مسئله پیش‌بینی نیست. ما می‌خواهیم اثر یک مداخله (Intervention) را بررسی کنیم.
۳. خلاف واقع
سطح عمیق‌تر استدلال علّی مربوط به پرسش‌های Counterfactual یا «خلاف واقع» است:
اگر در گذشته تصمیم دیگری گرفته بودیم، چه اتفاقی می‌افتاد؟
برای مثال:
«این تجهیز دیروز خراب شد. اگر بار آن را یک ساعت زودتر کاهش داده بودیم، آیا باز هم خراب می‌شد؟»
پاسخ به چنین پرسشی را نمی‌توان مستقیماً از داده‌های ثبت‌شده استخراج کرد، زیرا در دنیای واقعی تنها یک مسیر اتفاق افتاده است. برای بررسی مسیرهای جایگزین به یک مدل از سازوکار سیستم نیاز داریم.
مدل علّی چیست؟
در یک مدل علّی تلاش می‌کنیم روابط علت و معلولی میان اجزای سیستم را نمایش دهیم.
برای مثال، ممکن است ساختار ساده زیر را در نظر بگیریم:
بار کاری → دما → فرسودگی → خرابی
در کنار آن ممکن است مسیرهای دیگری نیز وجود داشته باشند:
شرایط محیطی → دما
یا:
سن تجهیز → فرسودگی
چنین ساختاری کمک می‌کند مشخص کنیم که یک تغییر چگونه می‌تواند از مسیرهای مختلف در سیستم منتشر شود.
یکی از ابزارهای متداول برای نمایش این روابط، گراف‌های علّی یا Directed Acyclic Graphs است که معمولاً با نام DAG شناخته می‌شوند. در این نمودارها، گره‌ها متغیرهای سیستم و پیکان‌ها روابط علّی پیشنهادی میان آنها را نشان می‌دهند.
اما ساخت یک مدل علّی صرفاً به معنی رسم چند پیکان نیست. روابط باید با دانش فیزیکی، داده‌ها، آزمایش‌ها یا شواهد معتبر پشتیبانی شوند.
چرا یادگیری ماشین به تنهایی کافی نیست؟
مدل‌های مدرن یادگیری ماشین می‌توانند الگوهای بسیار پیچیده‌ای را از داده استخراج کنند و در بسیاری از مسائل، پیش‌بینی‌های فوق‌العاده دقیقی ارائه دهند.
اما یک مدل پیش‌بینی معمولاً داده‌هایی را تحلیل می‌کند که از رفتار گذشته سیستم به دست آمده‌اند.
اگر شرایط سیستم تغییر کند یا بخواهیم تأثیر یک تصمیم جدید را بررسی کنیم، ممکن است روابط آماری گذشته دیگر معتبر نباشند.
به همین دلیل تفاوت مهمی وجود دارد:
Prediction:
با توجه به شرایط موجود، چه اتفاقی احتمالاً خواهد افتاد؟
Causal Reasoning:
اگر شرایط را تغییر دهیم، چه اتفاقی خواهد افتاد؟
این تفاوت در سیستم‌های مهندسی، پزشکی، اقتصاد، کنترل، شبکه‌های ارتباطی و بسیاری از کاربردهای هوش مصنوعی اهمیت بسیار زیادی دارد.
علیت چگونه به تصمیم‌گیری کمک می‌کند؟
هدف نهایی بسیاری از سیستم‌های هوشمند صرفاً پیش‌بینی نیست؛ بلکه تصمیم‌گیری بهتر است.
فرض کنید یک سامانه بتواند احتمال خرابی یک تجهیز را ۳۰ دقیقه قبل پیش‌بینی کند. این قابلیت مفید است، اما بلافاصله سؤال دیگری مطرح می‌شود:
چه کاری باید انجام دهیم؟
آیا باید بار را کاهش دهیم؟
آیا باید تجهیز دیگری را وارد مدار کنیم؟
آیا کاهش سرعت سیستم مؤثر است؟
و هر کدام از این اقدامات چه اثری بر عملکرد کل سامانه دارند؟
برای پاسخ به این پرسش‌ها، سیستم باید بتواند پیامد مداخلات مختلف را ارزیابی کند. این همان جایی است که استدلال علّی از یک ابزار تحلیلی به ابزاری برای تصمیم‌گیری تبدیل می‌شود.
از علیت به مدل‌سازی سیستم‌های واقعی
هرچه سیستم پیچیده‌تر باشد، اهمیت درک روابط علّی بیشتر می‌شود.
در یک سامانه واقعی ممکن است صدها متغیر شامل حسگرها، وضعیت تجهیزات، شرایط محیطی، ورودی‌های کنترلی و رفتار کاربران به یکدیگر وابسته باشند.
صرف مشاهده داده‌ها ممکن است برای یافتن الگوها کافی باشد، اما برای پاسخ به پرسش‌هایی مانند:
اگر ورودی سیستم تغییر کند چه خواهد شد؟
اگر یک جزء از مدار خارج شود چه اتفاقی می‌افتد؟
بهترین اقدام برای جلوگیری از یک وضعیت نامطلوب چیست؟
علت اصلی یک رفتار غیرعادی چه بوده است؟
اگر تصمیم دیگری گرفته می‌شد، نتیجه چگونه تغییر می‌کرد؟
به چیزی فراتر از پیش‌بینی نیاز داریم.
ما به مدلی از رفتار و سازوکار سیستم نیاز داریم.
و این نقطه، یکی از مسیرهای مهم اتصال مفهوم علیت به نسل جدید سیستم‌های مدل‌محور و داده‌محور است.
گام بعدی: وقتی سیستم واقعی یک همتای دیجیتال دارد
حال تصور کنید برای یک سیستم فیزیکی، یک مدل دیجیتال پویا داشته باشیم که به‌طور مداوم با داده‌های سیستم واقعی به‌روز می‌شود.
چنین مدلی تنها برای نمایش وضعیت فعلی سیستم استفاده نمی‌شود؛ بلکه در حالت پیشرفته می‌تواند برای شبیه‌سازی آینده، آزمایش سناریوهای مختلف، تحلیل اثر تصمیمات و حتی پاسخ به پرسش‌های «چه می‌شد اگر؟» مورد استفاده قرار گیرد.
اینجاست که بحث ما به مفهوم مهم دیگری نزدیک می‌شود:
Digital Twin یا دوقلوی دیجیتال.
اما پیش از ورود به Digital Twin باید یک نکته اساسی را در نظر داشت:
یک کپی دیجیتال از داده‌های یک سیستم، لزوماً به معنای داشتن یک مدل واقعی از رفتار آن سیستم نیست.
هرچه از «نمایش وضعیت» به سمت «پیش‌بینی»، «مداخله»، «تصمیم‌گیری» و «بررسی سناریوهای جایگزین» حرکت کنیم، مسئله علیت اهمیت بیشتری پیدا می‌کند.
در مقاله بعدی می‌توانیم بررسی کنیم که Digital Twin دقیقاً چیست، چه تفاوتی با شبیه‌سازی و مدل دیجیتال دارد و چرا نسل پیشرفته دوقلوهای دیجیتال به مدل‌های هوشمند و علّی نیاز پیدا می‌کند.