هوش مصنوعی چیست؟ تاریخچه، ویژگی‌ها و کاربردها

هوش مصنوعی یا Artificial Intelligence شاخه‌ای از علوم کامپیوتر است که به شبیه‌سازی فرآیندهای هوش انسانی توسط ماشین‌ها، به‌ویژه سیستم‌های کامپیوتری می‌پردازد. هدف نهایی این علم، ایجاد سیستم‌هایی است که بتوانند وظایفی که به طور سنتی به هوش انسانی نیاز دارند، مانند یادگیری، استدلال، حل مسئله، درک زبان و تشخیص الگو را با دقت و سرعت بالا انجام دهند. در سال ۲۰۲۴، هوش مصنوعی از یک مفهوم تئوریک به ابزاری کاربردی تبدیل شده که در تمام ابعاد زندگی بشر از پزشکی تا هنر نفوذ کرده است.

این سه مفهوم مانند لایه‌های یک پیاز هستند؛ هوش مصنوعی مفهوم کلی برای ساخت ماشین‌های هوشمند است. یادگیری ماشین زیرمجموعه‌ای از AI است که بر استفاده از الگوریتم‌ها برای یادگیری از داده‌ها بدون برنامه‌نویسی صریح تمرکز دارد. یادگیری عمیق نیز پیشرفته‌ترین بخش یادگیری ماشین است که از شبکه‌های عصبی مصنوعی با لایه‌های متعدد (مشابه ساختار مغز انسان) برای تحلیل داده‌های پیچیده مانند تصویر و صوت استفاده می‌کند. در واقع DL موتور محرک پیشرفت‌های اخیر در چت‌بات‌ها و خودروهای خودران است.

هوش مصنوعی محدود یا ضعیف (ANI) به سیستم‌هایی گفته می‌شود که برای انجام یک وظیفه خاص مثل بازی شطرنج، پیشنهاد فیلم در نتفلیکس یا تشخیص چهره طراحی شده‌اند؛ تمام هوش مصنوعی‌های فعلی از این نوع هستند. در مقابل، هوش مصنوعی عمومی (AGI) یک مفهوم فرضی است که در آن ماشین دارای هوشی معادل انسان بوده و می‌تواند هر وظیفه فکری را که انسان انجام می‌دهد، درک کرده و یاد بگیرد. دستیابی به AGI هنوز یکی از بزرگترین چالش‌ها و اهداف دانشمندان در دهه‌های آینده محسوب می‌شود.

آزمایش تورینگ که در سال ۱۹۵۰ توسط آلن تورینگ پیشنهاد شد، معیاری برای سنجش توانایی ماشین در نمایش رفتارهای هوشمندانه مشابه انسان است. در این آزمون، اگر یک داور انسانی نتواند در یک گفتگوی متنی تشخیص دهد که طرف مقابل او انسان است یا ماشین، آن ماشین آزمون را پاس کرده است. اگرچه امروزه مدل‌هایی مثل GPT-4 به راحتی این آزمون را پشت سر می‌گذارند، اما این تست همچنان به عنوان یک نقطه عطف تاریخی در تعریف هوشمندی ماشین شناخته می‌شود.

زمستان‌های هوش مصنوعی دوره‌هایی در دهه‌های ۱۹۷۰ و ۱۹۸۰ میلادی بودند که در آن به دلیل خوش‌بینی بیش از حد اولیه و عدم تحقق وعده‌ها، بودجه‌های تحقیقاتی و علاقه عمومی به این علم به شدت کاهش یافت. دلایل اصلی این رکود، محدودیت‌های شدید سخت‌افزاری (نبود قدرت پردازشی کافی) و کمبود داده‌های دیجیتال بود. با ظهور اینترنت و پردازنده‌های گرافیکی قدرتمند (GPU) در قرن ۲۱، این زمستان‌ها به پایان رسید و عصر طلایی فعلی آغاز شد.

هوش مصنوعی مولد نوعی از AI است که می‌تواند محتوای جدیدی از جمله متن، تصویر، صدا، ویدیو و حتی کد برنامه‌نویسی تولید کند. برخلاف مدل‌های قدیمی که فقط داده‌ها را طبقه‌بندی می‌کردند، مدل‌هایی مثل ChatGPT، Midjourney و Claude از الگوهای موجود در داده‌های آموزشی برای خلق آثار کاملاً جدید استفاده می‌کنند. این فناوری به دلیل دسترس‌پذیری عمومی و توانایی در افزایش بهره‌وری خلاقانه، به سرعت به پرمخاطب‌ترین شاخه تکنولوژی در سال ۲۰۲۳ و ۲۰۲۴ تبدیل شده است.

سوپر هوش مصنوعی یا Artificial Superintelligence مرحله‌ای فرضی است که در آن هوش ماشین از مجموع هوش تمام انسان‌های روی زمین در تمام زمینه‌ها، از جمله خلاقیت علمی، حکمت عمومی و مهارت‌های اجتماعی فراتر می‌رود. در حالی که هوش انسانی محدود به بیولوژی مغز است، ASI می‌تواند با سرعت نور پردازش کند و به طور مداوم خود را ارتقا دهد. بسیاری از متفکران مانند ایلان ماسک هشدار می‌دهند که ظهور ASI می‌تواند برای بقای بشریت هم فرصت و هم تهدیدی جدی باشد.

کنفرانس دارتموث در تابستان ۱۹۵۶ به عنوان نقطه تولد رسمی هوش مصنوعی به عنوان یک رشته دانشگاهی شناخته می‌شود. در این نشست، دانشمندانی چون جان مک‌کارتی، ماروین مینسکی و هربرت سایمون گرد هم آمدند و برای اولین بار واژه «هوش مصنوعی» را ابداع کردند. آن‌ها معتقد بودند که هر جنبه‌ای از یادگیری یا هر ویژگی دیگری از هوش را می‌توان به قدری دقیق توصیف کرد که یک ماشین بتواند آن را شبیه‌سازی کند، که این فرضیه پایه و اساس تحقیقات بعدی شد.

هوش مصنوعی، به ویژه در لایه یادگیری ماشین، برای یادگیری الگوها و اتخاذ تصمیمات دقیق به حجم عظیمی از اطلاعات نیاز دارد. بدون داده‌های باکیفیت و متنوع، الگوریتم‌ها نمی‌توانند آموزش ببینند؛ درست مانند انسانی که بدون تجربه و مطالعه نمی‌تواند دانش کسب کند. در دنیای امروز، شرکت‌هایی که به داده‌های بزرگ (Big Data) دسترسی دارند، در توسعه مدل‌های هوش مصنوعی دقیق‌تر و قدرتمندتر پیشرو هستند، زیرا داده‌ها به مدل اجازه می‌دهند تا خطاهای خود را اصلاح و پیش‌بینی‌هایش را بهینه کند.

برای شروع، ابتدا باید یک مشکل مشخص که با داده قابل حل است (مانند پیش‌بینی فروش یا خدمات مشتری) شناسایی شود. گام دوم، جمع‌آوری و پاکسازی داده‌های موجود است. سپس کسب‌وکار باید بین خرید ابزارهای آماده (SaaS) یا توسعه مدل اختصاصی تصمیم بگیرد. برای کسب‌وکارهای کوچک، استفاده از APIهای آماده شرکت‌هایی مثل OpenAI یا گوگل معمولاً به صرفه‌تر است. در نهایت، آموزش کارکنان برای تعامل با این ابزارها و نظارت مداوم بر خروجی‌ها برای اطمینان از دقت، ضروری است.

آماده‌سازی داده‌ها حیاتی‌ترین بخش هر پروژه AI است که شامل ۵ مرحله اصلی است: ۱. جمع‌آوری داده از منابع مختلف، ۲. پاکسازی (حذف داده‌های تکراری، غلط یا ناقص)، ۳. نرمال‌سازی (یکسان‌سازی مقیاس اعداد)، ۴. کدگذاری (تبدیل داده‌های متنی به اعداد قابل فهم برای ماشین) و ۵. تقسیم‌بندی داده‌ها به دو دسته آموزشی (Training) و تست (Testing). حدود ۷۰ تا ۸۰ درصد زمان یک متخصص داده صرف این فرآیند می‌شود تا از ورود زباله به مدل (Garbage In, Garbage Out) جلوگیری شود.

RLHF یا Reinforcement Learning from Human Feedback روشی است که برای همسو کردن مدل‌های زبانی بزرگ (مانند ChatGPT) با ارزش‌ها و انتظارات انسانی استفاده می‌شود. در این فرآیند، مدل چندین پاسخ تولید می‌کند و انسان‌ها به این پاسخ‌ها امتیاز می‌دهند یا آن‌ها را رتبه‌بندی می‌کنند. سپس یک مدل پاداش بر اساس این امتیازها آموزش می‌بیند تا به هوش مصنوعی یاد بدهد کدام رفتارها مطلوب و کدام‌ها (مثل تولید محتوای توهین‌آمیز) نامطلوب هستند. این فرآیند باعث می‌شود هوش مصنوعی مودب‌تر، دقیق‌تر و مفیدتر عمل کند.

چرخه حیات AI شامل شش مرحله است: ۱. تعریف مسئله و اهداف تجاری، ۲. جمع‌آوری و آماده‌سازی داده‌ها، ۳. انتخاب الگوریتم و آموزش مدل (Training)، ۴. ارزیابی و تست مدل با داده‌های جدید، ۵. استقرار (Deployment) در محیط واقعی و ۶. پایش و نگهداری مداوم. از آنجایی که داده‌های جهان واقعی به مرور زمان تغییر می‌کنند (Data Drift)، مدل‌ها باید به طور مرتب بازبینی و با داده‌های جدید بازآموزی شوند تا کارایی خود را از دست ندهند.

سنجش موفقیت به اهداف پروژه بستگی دارد اما معمولاً از شاخص‌های کلیدی عملکرد (KPI) استفاده می‌شود. در پروژه‌های فنی، معیارهایی مثل دقت (Accuracy)، فراخوانی (Recall) و امتیاز F1 بررسی می‌شوند. از نظر تجاری، شاخص‌هایی مانند میزان کاهش هزینه‌های عملیاتی، افزایش نرخ تبدیل مشتری، کاهش زمان پاسخگویی در پشتیبانی و نرخ بازگشت سرمایه (ROI) اهمیت دارند. همچنین رضایت کاربران نهایی و کاهش خطاهای انسانی از دیگر فاکتورهای مهم در ارزیابی موفقیت سیستم‌های مبتنی بر هوش مصنوعی هستند.

بزرگترین چالش، مقاومت فرهنگی و ترس کارکنان از جایگزینی توسط ماشین است. علاوه بر این، کمبود نیروی متخصص که بتواند سیستم‌های پیچیده را مدیریت کند، هزینه‌های بالای زیرساخت‌های محاسباتی و وجود داده‌های پراکنده و غیرساختاریافته در سازمان‌های قدیمی از موانع جدی هستند. همچنین، نبود استراتژی روشن از سوی مدیریت ارشد و نگرانی‌های مربوط به امنیت داده‌ها و حریم خصوصی باعث می‌شود که فرآیند ادغام هوش مصنوعی در این سازمان‌ها به کندی پیش برود.

مهندسی پرامپت هنر و علم طراحی ورودی‌های دقیق (دستورات) برای مدل‌های هوش مصنوعی مولد است تا بهترین و دقیق‌ترین خروجی حاصل شود. از آنجایی که مدل‌هایی مثل GPT-4 به شدت به نحوه بیان سوال حساس هستند، یک مهندس پرامپت با استفاده از تکنیک‌هایی مانند تعیین نقش برای هوش مصنوعی، ارائه مثال‌های مشابه (Few-shot prompting) و زنجیره تفکر (Chain of Thought)، مدل را هدایت می‌کند تا از پاسخ‌های عمومی فاصله گرفته و خروجی‌های تخصصی و کاربردی تولید کند.

بهترین روش برای اضافه کردن AI به سیستم‌های قدیمی، استفاده از معماری میکروسرویس و APIها است. به جای بازنویسی کل نرم‌افزار، می‌توان قابلیت‌های هوش مصنوعی را به صورت سرویس‌های مجزا توسعه داد و از طریق فراخوانی‌های API به سیستم اصلی متصل کرد. برای مثال، یک سیستم حسابداری قدیمی می‌تواند از طریق یک API به یک مدل هوش مصنوعی برای تشخیص خودکار فاکتورها متصل شود. این روش باعث می‌شود ریسک خرابی سیستم اصلی کاهش یافته و مقیاس‌پذیری افزایش یابد.

در یادگیری نظارت شده، مدل با استفاده از داده‌های برچسب‌دار آموزش می‌بیند؛ یعنی ورودی و خروجی صحیح مشخص است (مثل تشخیص ایمیل اسپم). اما در یادگیری نظارت نشده، داده‌ها برچسب ندارند و ماشین باید خودش الگوها و ساختارهای پنهان را پیدا کند (مثل بخش‌بندی مشتریان بر اساس رفتار خرید). یادگیری نظارت شده برای پیش‌بینی و طبقه‌بندی دقیق استفاده می‌شود، در حالی که یادگیری نظارت نشده برای اکتشاف داده‌ها و یافتن روابط ناشناخته کاربرد دارد.

شبکه‌های عصبی از ساختار مغز انسان الهام گرفته شده‌اند و شامل لایه‌هایی از «نورون‌های» مصنوعی هستند. هر نورون ورودی‌ها را دریافت کرده، آن‌ها را با وزن‌های مشخصی ترکیب می‌کند و اگر مجموع از حد آستانه‌ای فراتر رفت، سیگنالی را به لایه بعدی می‌فرستد. در طول فرآیند آموزش، این وزن‌ها به طور مداوم تغییر می‌کنند تا اختلاف بین پیش‌بینی ماشین و واقعیت به حداقل برسد. این ساختار لایه‌ای به هوش مصنوعی اجازه می‌دهد تا ویژگی‌های بسیار پیچیده را از داده‌های خام استخراج کند.

واحد پردازش مرکزی (CPU) برای انجام وظایف ترتیبی و پیچیده طراحی شده و تعداد هسته‌های کمی دارد. در مقابل، واحد پردازش گرافیکی (GPU) دارای هزاران هسته کوچک و ساده است که می‌توانند محاسبات ریاضی سنگین را به صورت موازی انجام دهند. از آنجایی که آموزش مدل‌های هوش مصنوعی شامل میلیاردها ضرب ماتریسی همزمان است، GPUها می‌توانند این فرآیند را ۱۰ تا ۱۰۰ برابر سریع‌تر از CPUها انجام دهند، که این امر باعث شده توسعه مدل‌های بزرگ امروزی عملاً ممکن شود.

معماری ترانسفورمر که در سال ۲۰۱۷ توسط گوگل معرفی شد، پایه و اساس تمام مدل‌های زبانی مدرن مثل ChatGPT است. ویژگی کلیدی آن مکانیزم «توجه» (Attention) است که به مدل اجازه می‌دهد به جای بررسی کلمات به ترتیب، به تمام بخش‌های یک متن به صورت همزمان نگاه کند و روابط بین کلمات دور از هم را درک کند. این نوآوری باعث شد هوش مصنوعی در درک بافتار (Context) زبان بسیار قدرتمندتر شود و بتواند متن‌هایی بسیار طولانی و منسجم تولید کند.

مشکل جعبه سیاه به این واقعیت اشاره دارد که در مدل‌های پیچیده یادگیری عمیق، حتی طراحان مدل هم دقیقاً نمی‌دانند که ماشین چگونه به یک تصمیم خاص رسیده است. به دلیل وجود میلیون‌ها پارامتر و محاسبات تودرتو، فرآیند استدلال مدل شفاف نیست. این موضوع در حوزه‌های حساس مثل پزشکی یا قضاوت که نیاز به توضیح علت تصمیم‌گیری (Explainable AI) دارند، یک چالش بزرگ فنی و اخلاقی ایجاد کرده است، زیرا پذیرش تصمیمی که علت آن مشخص نیست، دشوار است.

بینایی ماشین از شبکه‌های عصبی کانولوشنال (CNN) استفاده می‌کند. این شبکه‌ها تصویر را به صورت پیکسل به پیکسل اسکن کرده و در لایه‌های اولیه ویژگی‌های ساده مثل لبه‌ها و رنگ‌ها را شناسایی می‌کنند. در لایه‌های عمیق‌تر، این ویژگی‌ها با هم ترکیب شده و اشکال پیچیده‌تر مثل چشم، چرخ یا پنجره را می‌سازند. در نهایت، مدل با مقایسه این الگوها با داده‌های آموزشی خود، با احتمال بالا تشخیص می‌دهد که تصویر متعلق به چه شیئی (مثلاً یک گربه یا یک خودرو) است.

NLP حوزه‌ای از هوش مصنوعی است که به تعامل بین کامپیوتر و زبان انسان می‌پردازد. این تکنولوژی شامل وظایفی مانند ترجمه ماشینی (مثل Google Translate)، تحلیل احساسات (تشخیص مثبت یا منفی بودن نظرات کاربران)، خلاصه‌سازی متن و پاسخ به سوالات است. هدف NLP این است که ماشین نه تنها کلمات را بخواند، بلکه معنا، لحن و قصد گوینده را نیز درک کند. امروزه با ظهور مدل‌های زبانی بزرگ، NLP به سطحی رسیده که می‌تواند متونی کاملاً مشابه انسان بنویسد.

مدل‌های تجاری مانند GPT-4 (OpenAI) یا Gemini (Google) به صورت سرویس پولی ارائه می‌شوند و کدهای منبع و داده‌های آموزشی آن‌ها مخفی است؛ این مدل‌ها معمولاً قدرتمندترند اما هزینه اشتراک دارند. مدل‌های متن‌باز مانند Llama (Meta) یا Mistral به صورت رایگان در دسترس هستند و توسعه‌دهندگان می‌توانند آن‌ها را روی سرورهای شخصی نصب و شخصی‌سازی کنند. انتخاب بین این دو به نیاز به امنیت داده، بودجه و سطح تخصص فنی سازمان بستگی دارد.

هزینه توسعه بسیار متغیر است و به پیچیدگی پروژه بستگی دارد. برای یک پروژه کوچک شرکتی، هزینه‌ها ممکن است از ۲۰,۰۰۰ دلار شروع شود، اما آموزش مدل‌های بزرگ جهانی مانند GPT-4 بیش از ۱۰۰ میلیون دلار هزینه سخت‌افزاری و انرژی داشته است. هزینه‌ها شامل سه بخش اصلی هستند: ۱. جمع‌آوری و برچسب‌گذاری داده‌ها، ۲. اجاره یا خرید قدرت پردازشی (GPU) و ۳. حقوق متخصصان هوش مصنوعی که در سال ۲۰۲۴ جزو پردرآمدترین مشاغل تکنولوژی هستند.

بله، برای اکثر کسب‌وکارها استفاده از APIها (مانند OpenAI API) بسیار مقرون‌به‌صرفه‌تر است. در این حالت، شما فقط به ازای میزان مصرف (تعداد کلمات یا تصاویر تولید شده) هزینه پرداخت می‌کنید و نیازی به سرمایه‌گذاری میلیونی روی سخت‌افزار و استخدام تیم بزرگ تحقیق و توسعه ندارید. ساخت مدل از صفر تنها زمانی توجیه اقتصادی دارد که نیاز به امنیت بسیار بالا، داده‌های کاملاً محرمانه یا کاربردی بسیار خاص داشته باشید که مدل‌های عمومی قادر به انجام آن نیستند.

علاوه بر هزینه‌های مستقیم توسعه، هزینه‌های پنهانی وجود دارد که اغلب نادیده گرفته می‌شوند: ۱. نگهداری و بازآموزی مدل (مدل‌ها با گذشت زمان دقت خود را از دست می‌دهند)، ۲. هزینه‌های ذخیره‌سازی ابری داده‌های حجیم، ۳. هزینه یکپارچه‌سازی با سیستم‌های فعلی، ۴. آموزش کارکنان برای استفاده از ابزار جدید و ۵. هزینه‌های حقوقی و انطباق با قوانین حریم خصوصی. نادیده گرفتن این موارد می‌تواند بودجه پروژه را تا ۲ برابر پیش‌بینی اولیه افزایش دهد.

برای محاسبه ROI، باید مجموع سود حاصل از افزایش کارایی (مثلاً کاهش زمان پاسخگویی به مشتری) و درآمدهای جدید (مثلاً فروش بیشتر ناشی از سیستم پیشنهادات) را بر مجموع هزینه‌های توسعه و عملیاتی تقسیم کرد. در صنایع تولیدی، هوش مصنوعی با پیش‌بینی خرابی دستگاه‌ها (Predictive Maintenance) می‌تواند سالانه میلیون‌ها دلار از ضرر توقف تولید جلوگیری کند. به طور متوسط، سازمان‌هایی که هوش مصنوعی را به درستی پیاده کرده‌اند، بازگشت سرمایه‌ای بین ۲ تا ۵ برابر هزینه اولیه را گزارش می‌کنند.

در سال ۲۰۲۴، به دلیل کمبود شدید نیروی متخصص، حقوق‌ها بسیار بالا است. در ایالات متحده، حقوق سالانه یک مهندس یادگیری ماشین از ۱۲۰,۰۰۰ دلار شروع شده و برای متخصصان ارشد به بیش از ۳۰۰,۰۰۰ دلار می‌رسد. در بازارهای دیگر نیز این تخصص جزو صدرنشینان جدول حقوق است. بسیاری از شرکت‌ها به جای استخدام تمام‌وقت، به استفاده از مشاوران یا شرکت‌های پیمانکار هوش مصنوعی روی آورده‌اند تا در هزینه‌های ثابت صرفه‌جویی کنند.

برای کاهش هزینه‌ها می‌توان از چندین استراتژی استفاده کرد: ۱. استفاده از مدل‌های کوچک‌تر و بهینه‌شده (مثل DistilBERT به جای BERT)، ۲. استفاده از نمونه‌های ارزان‌تر ابری (Spot Instances) برای آموزش مدل، ۳. کوانتیزاسیون (Quantization) مدل که باعث کاهش حجم و سرعت بیشتر با افت دقت ناچیز می‌شود و ۴. فیلتر کردن داده‌های ورودی قبل از ارسال به APIهای گران‌قیمت. همچنین، اجرای مدل‌های سبک روی دستگاه کاربر (Edge AI) به جای سرور، هزینه پردازش را به صفر می‌رساند.

هوش مصنوعی با اتوماسیون وظایف تکراری، هزینه‌های نیروی انسانی را در بخش‌های اداری و پشتیبانی به شدت کاهش می‌دهد. برای مثال، چت‌بات‌های هوشمند می‌توانند تا ۸۰ درصد سوالات متداول مشتریان را بدون دخالت انسان پاسخ دهند. در زنجیره تأمین، AI با بهینه‌سازی مسیرهای حمل و نقل و مدیریت دقیق موجودی انبار، هزینه‌های لجستیک را ۱۰ تا ۱۵ درصد کاهش می‌دهد. به طور کلی، هوش مصنوعی با حذف خطاهای انسانی و افزایش سرعت فرآیندها، بهره‌وری کل سازمان را بالا می‌برد.

این قانون که در سال ۲۰۲۴ نهایی شد، اولین چارچوب قانونی جامع در جهان برای مدیریت هوش مصنوعی است. این قانون سیستم‌های AI را بر اساس سطح ریسک به چهار دسته (غیرقابل قبول، پرخطر، محدود و حداقلی) تقسیم می‌کند. استفاده از هوش مصنوعی برای امتیازدهی اجتماعی یا تشخیص چهره در اماکن عمومی به صورت زنده ممنوع شده است. شرکت‌هایی که در بازار اروپا فعالیت می‌کنند، ملزم به رعایت شفافیت و استانداردهای امنیتی سخت‌گیرانه‌ای هستند، در غیر این صورت با جریمه‌های سنگین روبرو می‌شوند.

این یکی از چالش‌برانگیزترین مباحث حقوقی فعلی است. در حال حاضر، اداره کپی‌رایت ایالات متحده و بسیاری از کشورهای دیگر معتقدند که آثار تولید شده «صرفاً» توسط ماشین، بدون دخالت قابل توجه انسانی، قابل ثبت به عنوان کپی‌رایت نیستند. با این حال، اگر یک انسان از AI به عنوان ابزاری برای خلق اثر استفاده کند و خلاقیت خود را در پرامپت‌ها و ویرایش نهایی به کار ببرد، ممکن است حق مالکیت به او تعلق گیرد. قوانین در این زمینه به سرعت در حال تغییر هستند.

هوش مصنوعی باید از اصول «حریم خصوصی در طراحی» پیروی کند. طبق GDPR، کاربران حق دارند بدانند داده‌هایشان چگونه برای آموزش مدل‌ها استفاده می‌شود و حق دارند درخواست حذف داده‌های خود را بدهند (حق فراموش شدن). چالش بزرگ این است که حذف داده‌های یک فرد از یک مدل آموزش‌دیده بسیار دشوار است. شرکت‌ها باید از تکنیک‌هایی مانند «یادگیری فدرال» (آموزش مدل روی دستگاه کاربر بدون انتقال داده به سرور) یا داده‌های مصنوعی (Synthetic Data) برای محافظت از حریم خصوصی استفاده کنند.

در حال حاضر مسئولیت حقوقی معمولاً بین تولیدکننده نرم‌افزار، سازنده سخت‌افزار و اپراتور انسانی تقسیم می‌شود. اگر نقص فنی در الگوریتم ثابت شود، سازنده مسئول است. اما بحث‌های حقوقی جدید به سمت تعریف «شخصیت حقوقی» برای ماشین‌های خودمختار پیش می‌رود. در اکثر قراردادهای فعلی، شرکت‌های ارائه دهنده هوش مصنوعی با گنجاندن بندهای سلب مسئولیت، مسئولیت نهایی خروجی‌های مدل را بر عهده کاربر انسانی می‌گذارند که باید خروجی را تایید کند.

سوگیری زمانی رخ می‌دهد که داده‌های آموزشی حاوی تبعیض‌های انسانی (نژادی، جنسیتی یا مذهبی) باشند و مدل این تبعیض‌ها را یاد بگیرد و تکرار کند. برای مثال، اگر یک سیستم استخدام فقط بر اساس رزومه‌های مردان در گذشته آموزش ببیند، ممکن است زنان را رد کند. این موضوع می‌تواند منجر به دعاوی حقوقی سنگین تحت قوانین ضد تبعیض شود. شرکت‌ها موظفند داده‌های خود را از نظر عدالت (Fairness) بررسی کرده و از الگوریتم‌های شفاف برای جلوگیری از سوگیری استفاده کنند.

حملات خصمانه شامل دستکاری عمدی ورودی‌های مدل به گونه‌ای است که برای انسان نامحسوس باشد اما باعث خطای فاحش ماشین شود. برای مثال، با چسباندن چند برچسب کوچک روی تابلوی «ایست»، می‌توان هوش مصنوعی خودروی خودران را فریب داد تا آن را تابلوی «سرعت مجاز» ببیند. این حملات امنیت سیستم‌های بیومتریک و نظامی را تهدید می‌کنند و شاخه جدیدی به نام «امنیت هوش مصنوعی» برای مقابله با این تهدیدات و مقاوم‌سازی مدل‌ها شکل گرفته است.

دیدگاه کارشناسان در سال ۲۰۲۴ این است که هوش مصنوعی بیشتر از آنکه مشاغل را نابود کند، «وظایف» را تغییر می‌دهد. در حالی که کارهای تکراری در خطر اتوماسیون هستند، مشاغل جدیدی در حوزه مدیریت، نظارت و توسعه AI ایجاد می‌شوند. گزارش‌های مجمع جهانی اقتصاد نشان می‌دهد که AI ممکن است ۸۵ میلیون شغل را حذف کند اما ۹۷ میلیون شغل جدید ایجاد خواهد کرد. کلید بقا در این بازار، «بازآموزی» (Reskilling) و یادگیری نحوه همکاری با هوش مصنوعی به عنوان یک دستیار هوشمند است.

توهم زمانی رخ می‌دهد که مدل‌های زبانی بزرگ با اطمینان کامل اطلاعاتی را ارائه می‌دهند که کاملاً غلط یا ساختگی هستند. این اتفاق به دلیل ماهیت احتمالی این مدل‌ها می‌افتد؛ آن‌ها کلمه بعدی را بر اساس آمار پیش‌بینی می‌کنند، نه بر اساس درک واقعیت. در حوزه‌های حقوقی و پزشکی، این توهمات می‌تواند منجر به خسارات جبران‌ناپذیری شود. به همین دلیل، استفاده از هوش مصنوعی در این حوزه‌ها حتماً باید تحت نظارت مستقیم متخصصان انسانی (Human-in-the-loop) باشد.

حکمرانی هوش مصنوعی مجموعه‌ای از سیاست‌ها، استانداردها و کنترل‌هایی است که یک سازمان برای اطمینان از استفاده اخلاقی، ایمن و قانونی از AI پیاده می‌کند. این شامل تعیین مسئولیت‌ها، شفافیت در نحوه استفاده از داده‌ها، پایش مداوم مدل‌ها برای جلوگیری از سوگیری و اطمینان از انطباق با قوانین بین‌المللی است. بدون یک چارچوب حکمرانی قوی، سازمان‌ها در معرض ریسک‌های امنیتی، حقوقی و ضربه به شهرت برند قرار می‌گیرند.