راه حل جدید برای کاهش استفاده مخرب از مدلهای هوش مصنوعی باز است

به گفته اینا ، اطلاعات مربوط به صفحه کمک های منتشر شده در هفته گذشته در وب سایت OpenAI نشان می دهد که این شرکت به زودی می تواند از سازمان ها بخواهد تا روند تأیید اعتبار را برای دسترسی به برخی از مدل های آینده هوش مصنوعی تکمیل کنند.

به نقل از تک کرانچا ، صفحه کمک نشان می دهد که فرآیند تأیید سازمانی یک روش جدید برای توسعه دهندگان است تا دسترسی به پیشرفته ترین مدل ها و ظرفیت های موجود در بستر OpenIA را باز کنند. تأیید نیاز به شناسه دولتی یکی از کشورهایی که توسط API OpenPI پشتیبانی می شود ، نیاز دارد. به گفته Openi ، شناسه فقط می تواند هر 5 روز یک سازمان را تأیید کند و همه سازمان ها واجد شرایط تأیید نیستند.

صفحه کمک نشان می دهد: ما مسئولیت خود را در OpenII جدی می گیریم تا اطمینان حاصل کنیم که هوش مصنوعی هم به طور گسترده در دسترس است و هم با خیال راحت استفاده می شود. متأسفانه ، اقلیت کوچکی از توسعه دهندگان عمداً از API باز در جهت مخالف سیاست ما استفاده می کنند. ما یک فرایند تأیید را برای کاهش استفاده ناامن از هوش مصنوعی اضافه می کنیم ، در حالی که همچنان به ارائه مدلهای پیشرفته به جامعه توسعه دهنده بزرگتر ادامه می دهیم.

این فرایند تصویب جدید ممکن است به دلیل پیچیده ترین و توانمندسازی آنها ، ایمنی در محصولات OPP باشد. Openai گزارش های متعددی را در مورد تلاش های خود برای شناسایی و از مدل های این شرکت منتشر کرده است.

علاوه بر این ، این می تواند با هدف جلوگیری از پرواز IP انجام شود. به گفته بلومبرگ در اوایل سال جاری ، Open -ai در حال بررسی این سؤال بود که آیا گروهی مرتبط با شرکت چینی Deepseek در پایان سال احتمالاً مقادیر زیادی از داده ها را برای آموزش مدل های خود از طریق API خود استخراج کرده و PPO را نقض کرده است. هوش مصنوعی باز تابستان گذشته دسترسی به خدمات خود را در چین مسدود کرد.

پایان پیام