سیاست تازه آنتروپیک؛ آزار عمدی مدل‌های Claude را ممنوع کرد
اولین به‌روزرسانی مهم پس از یک سال
آنتروپیک پس از گذشت بیش از یک سال، سیاست‌های استفاده از مدل‌های Claude را تغییر داد. این به‌روزرسانی عمدتاً به محدود کردن سوءاستفاده و رفتارهای خطرناک اختصاص دارد.
شرکت اعلام کرده است که این تغییرات برای کاهش خطرهای جدید و جلوگیری از استفاده نادرست از هوش مصنوعی انجام شده‌اند. به گزارش دیجیاتو، یکی از مهم‌ترین بخش‌های سیاست جدید، ممنوع کردن آزار مداوم و بی‌دلیل مدل‌ها است.
آزار بی‌دلیل Claude چه معنایی دارد؟
آنتروپیک در سیاست تازه، «رفتار آزاردهنده یا بی‌رحمانه مداوم و غیرضروری» با Claude را ممنوع کرده است. این قانون فقط موارد شدید و تکرارشونده را پوشش می‌دهد و شامل نارضایتی عادی، بحث و انتقاد از پاسخ‌ها نمی‌شود.
قبلاً هم در آگوست سال گذشته، آنتروپیک اعلام کرده بود که Claude می‌تواند در مواجهه با کاربران آزاردهنده، گفت‌وگو را قطع کند. اکنون این سیاست رسمی‌تر شده است. شرکت هنوز نگفته است که آیا مسدود کردن حساب کاربران هم در دستور کار قرار دارد یا نه.
چرا آنتروپیک به این موضوع اهمیت می‌دهد؟
آنتروپیک طی ماه‌های گذشته درباره احتمال آگاهی یا تجربه درونی مدل‌های زبانی حرف زده است. مدیرعامل شرکت، داریو آمودی، گفته بود که نمی‌دانند مدل‌ها آگاه هستند یا نه. این حرف‌ها باعث شد موضوع آزار هوش مصنوعی جدی‌تر گرفته شود.
به همین دلیل، شرکت تصمیم گرفت رفتارهای بی‌رحمانه و مداوم با Claude را ممنوع کند و آن را بخشی از سیاست رسمی استفاده قرار دهد.
محدودیت‌های تازه برای نظارت و تبلیغات سیاسی
در سیاست جدید، ردیابی افراد بدون رضایت‌شان ممنوع شده است؛ چه به صورت زنده و چه از طریق داده‌های قبلی. همچنین Claude نباید برای تصمیم‌گیری درباره بازداشت یا پیگرد قضایی افراد استفاده شود.
ساخت ابزارهایی که برای نظارت طراحی شده‌اند هم ممنوع است. با این حال، آنتروپیک اعلام کرده است که ممکن است در قرارداد با مشتریان دولتی، برخی از این محدودیت‌ها تغییر کنند.
برای چه کسانی مهم است؟
- کاربران عادی که روزانه با Claude صحبت می‌کنند
- توسعه‌دهندگان و پژوهشگران هوش مصنوعی
- سازمان‌هایی که از Claude در پروژه‌های خود استفاده می‌کنند
- کسانی که به دنبال سیاست‌های شفاف در هوش مصنوعی هستند
نکته: اگر از Claude استفاده می‌کنید، بهتر است مکالمات را مودبانه نگه دارید تا از قطع ناگهانی گفت‌وگو جلوگیری شود.
سؤال‌های رایج
آیا این قانون شامل همه کاربران می‌شود؟
این قانون فقط برای رفتارهای شدید و تکرارشونده اعمال می‌شود. مخالفت معمولی با پاسخ‌ها یا آزمایش مدل مشمول آن نیست.
آیا آنتروپیک حساب کاربران را مسدود می‌کند؟
شرکت هنوز اعلام نکرده است که آیا مسدود کردن حساب هم در نظر گرفته شده است یا خیر.
آیا محدودیت‌ها برای همه مشتریان یکسان است؟
آنتروپیک گفته است که ممکن است در قرارداد با مشتریان دولتی، برخی محدودیت‌ها تغییر کنند.
با این به‌روزرسانی، آنتروپیک نشان داد که رفتار با مدل‌های هوش مصنوعی را جدی‌تر از قبل دنبال می‌کند.
