تصور کن سامانه پرسشوپاسخِ مدرسه فقط به سؤالهای کوتاه جواب میدهد؛ مثلاً: «امتحان چه ساعتی شروع میشود؟» یا: «تعریف ساده تبخیر چیست؟» پاسخهای سامانه مؤدبانه و روشناند و اگر اشتباه کند، عذرخواهی میکند و راه درست را نشان میدهد.
اما اگر روزی همین ابزار پاسخی گمراهکننده بدهد یا در برخورد با یک دانشآموز بیانصاف باشد، چه میشود؟ چه کسی باید بفهمد این خطا از کجا آمده و چطور جلوی تکرارش را بگیرد؟
اینجاست که متخصص «اخلاق هوش مصنوعی» وارد میشود؛ کسی که قبل از بروز خطا، چراغهای هشدار را روشن میکند تا فناوری از مسیر انسانی و درستش منحرف نشود.
۲۱ تیر ۱۴۰۵