گئورگ مایر درباره هوش مصنوعی: خطرات پنهان از دست دادن کنترل، تخصص و پاسخگویی

تنها در چند سال کوتاه، هوش مصنوعی در عملیات تجاری روزمره جای گرفته است، بسیاری از شرکت‌ها به سرعت در حال خودکارسازی فرآیندها و اتکا به سیستم‌های مبتنی بر هوش مصنوعی هستند. اما طبق گفته گئورگ مایر، یک استراتژیست و متخصص سیستم‌ها، سرعت و راحتی می‌تواند هزینه‌ای داشته باشد، به‌ویژه زمانی که کسب‌وکارها دید خود را نسبت به نحوه عملکرد واقعی مهم‌ترین سیستم‌های خود از دست می‌دهند.

مایر هشدار می‌دهد که یکی از بزرگ‌ترین خطرات، حس کاذب درک و فهم است. او توضیح می‌دهد: "شرکت‌ها ممکن است فکر کنند به دلیل دستورالعمل‌هایی که داده‌اند، می‌دانند چه اتفاقی می‌افتد، اما دید واقعی از آنچه در داخل جعبه اتفاق می‌افتد ندارند."

سیستم‌های هوش مصنوعی مدرن، به‌ویژه مدل‌های زبانی بزرگ، قدرتمند هستند اما بازرسی کامل آن‌ها دشوار است. فرآیندهای داخلی آن‌ها همیشه شفاف نیستند و خروجی‌های آن‌ها می‌تواند به دلیل تصادفی بودن داخلی متفاوت باشد. این موضوع چالش‌هایی را در مورد ثبات و قابلیت اطمینان ایجاد می‌کند، به‌ویژه زمانی که هوش مصنوعی در عملکردهای تجاری اصلی استفاده می‌شود. مایر می‌گوید: "خطرات پنهانی برای تکرارپذیری و قابلیت اطمینان وجود دارد که می‌تواند زمانی که قلب شرکت را تحت تأثیر قرار دهد، فاجعه‌بار باشد."

برای مایر، راه‌حل اجتناب از هوش مصنوعی نیست، بلکه اطمینان از اینکه درک انسانی همچنان در مرکز باقی می‌ماند. کسب‌وکارها همچنان به افرادی نیاز دارند که بدانند سیستم‌ها چگونه کار می‌کنند، حتی اگر آن سیستم‌ها توسط هوش مصنوعی پشتیبانی شوند.

دستاوردهای کوتاه‌مدت، خطرات بلندمدت

نگرانی دیگری که مایر برجسته می‌کند، تأثیر بلندمدت هوش مصنوعی بر تخصص در سازمان‌ها است. در حالی که هوش مصنوعی می‌تواند به طور چشمگیری گردش کار را تسریع کند و به تبدیل دانش به عمل کمک کند، اتکای بیش از حد به آن ممکن است با عواقب ناخواسته همراه باشد.

مایر می‌گوید: "هم اتکای بیش از حد و هم اتکای کمتر از حد می‌تواند خطرناک باشد. هوش مصنوعی می‌تواند زمان لازم برای به کارگیری تخصص را کاهش دهد، اما سؤال مهمی را مطرح می‌کند: چگونه نسل بعدی متخصصان را آموزش دهیم اگر هرگز اصول اولیه را توسعه ندهند؟"

در کوتاه‌مدت، هوش مصنوعی می‌تواند تیم‌ها را بهره‌ورتر کند. اما اگر کارکنان شروع به وابستگی به آن برای تفکر اصلی و حل مسئله کنند، کسب‌وکارها خطر از دست دادن تخصص مورد نیاز برای مدیریت موقعیت‌های پیچیده، غیرمنتظره یا موقعیت‌هایی که نیاز به لمس انسانی دارند را دارند. مایر معتقد است که شرکت‌ها و مربیان به طور یکسان باید در حفظ دانش بنیادی عمدی باشند، به‌ویژه برای سناریوهایی که نمی‌توان به هوش مصنوعی اتکا کرد.

مسئولیت‌پذیری همچنان متعلق به انسان‌هاست

شاید مهم‌ترین موضوعی که مایر مطرح می‌کند، مسئولیت‌پذیری باشد. همانطور که سیستم‌های هوش مصنوعی مسئولیت بیشتری را بر عهده می‌گیرند، برخی سازمان‌ها ممکن است وسوسه شوند که زمانی که اوضاع بد می‌شود، سرزنش را منتقل کنند. مایر روشن می‌کند که این یک رویکرد قابل اجرا نیست.

او می‌گوید: "مسئولیت‌پذیری و همتای قانونی آن، مسئولیت، اساساً به انسان‌ها متصل است. شما نمی‌توانید با گفتن 'هوش مصنوعی این کار را کرد' دست خود را از یک نتیجه بد بشویید."

او اشاره می‌کند که بسیاری از شرکت‌ها در حال حاضر در تلاش هستند تا در این منطقه خاکستری حرکت کنند. ارائه‌دهندگان هوش مصنوعی اغلب تکذیب‌نامه‌هایی را شامل می‌شوند که سیستم‌های آن‌ها می‌توانند اشتباه کنند، در حالی که صنایعی مانند خودرو ویژگی‌های "خودران" را تبلیغ می‌کنند اما همچنان راننده انسانی را مسئول می‌دانند. با این حال، مایر استدلال می‌کند که اگر سیستم‌ها واقعاً خودمختار هستند، مسئولیت باید به کسانی که آن‌ها را طراحی و مستقر می‌کنند منتقل شود.

این امر حتی در موارد استفاده کوچک‌تر و روزمره نیز صدق می‌کند. به عنوان مثال، کسب‌وکارهایی که از هوش مصنوعی برای ساخت برنامه‌هایی که داده‌های حساس را مدیریت می‌کنند استفاده می‌کنند، نمی‌توانند فرض کنند که فناوری امنیت را به درستی مدیریت خواهد کرد. مایر می‌گوید: "داده‌ها به هوش مصنوعی سپرده نشده است. شرکت است."