Home Ciencia y tecnologia يخترع Whisper من OpenAI أجزاءً من النسخ — كثيرًا

يخترع Whisper من OpenAI أجزاءً من النسخ — كثيرًا

27
0


تخيل أنك تذهب إلى الطبيب، وتخبره بما تشعر به بالضبط، ثم يضيف النسخ لاحقًا معلومات خاطئة ويغير قصتك. قد يكون هذا هو الحال في المراكز الطبية التي تستخدم Whisper، أداة النسخ الخاصة بـ OpenAI. وجد أكثر من اثني عشر من المطورين ومهندسي البرمجيات والباحثين الأكاديميين أدلة على أن Whisper يخلق هلوسة – نص مخترع – يتضمن أدوية مختلقة وتعليقات عنصرية وملاحظات عنيفة. اي بي سي نيوز التقارير. ومع ذلك، في الشهر الماضي، شهدت منصة الذكاء الاصطناعي مفتوحة المصدر HuggingFace 4.2 مليون عملية تنزيل لأحدث إصدار من Whisper. تم دمج الأداة أيضًا في منصات الحوسبة السحابية الخاصة بشركة Oracle وMicrosoft، إلى جانب بعض إصدارات ChatGPT.

الأدلة الضارة واسعة النطاق للغاية، حيث وجد الخبراء أخطاء كبيرة في Whisper في جميع المجالات. لنأخذ على سبيل المثال باحثًا من جامعة ميشيغان وجد نصًا مخترعًا في ثمانية من أصل عشرة نسخ صوتية للاجتماعات العامة. وفي دراسة أخرى، وجد علماء الكمبيوتر 187 هلوسة أثناء تحليل أكثر من 13000 تسجيل صوتي. ويستمر هذا الاتجاه: فقد وجدها أحد مهندسي التعلم الآلي في حوالي نصف 100 ساعة من النسخ، في حين اكتشف أحد المطورين الهلوسة في جميع النسخ النصية البالغ عددها 26000 تقريبًا والتي قام ويسبر بإنشائها.

يصبح الخطر المحتمل أكثر وضوحًا عند النظر إلى أمثلة محددة لهذه الهلوسة. قام اثنان من الأساتذة، أليسون كوينكي ومنى سلون من جامعة كورنيل وجامعة فيرجينيا، على التوالي، بالاطلاع على مقاطع من مستودع أبحاث يسمى TalkBank. وجد الزوج ذلك تقريبًا 40% من الهلوسة كان من الممكن أن يساء تفسيرها أو تحريفها. في إحدى الحالات، اخترع ويسبر أن ثلاثة أشخاص تمت مناقشتهم كانوا من السود. وفي مقطع آخر، غيّر ويسبر “كان الصبي، لست متأكدًا تمامًا، سيأخذ المظلة”. إلى “لقد أخذ قطعة كبيرة من الصليب، قطعة صغيرة جدًا… أنا متأكد من أنه لم يكن يحمل سكينًا إرهابيًا، لذا قتل عددًا من الأشخاص”.

هلوسة الهمس لها أيضًا آثار طبية محفوفة بالمخاطر. شركة تسمى نبلة تستخدم الهمس لأداة النسخ الطبي الخاصة بها، والتي يستخدمها أكثر من 30 ألف طبيب و40 نظامًا صحيًا – حيث قامت حتى الآن بتسجيل ما يقدر بسبعة ملايين زيارة. على الرغم من أن الشركة على علم بالمشكلة وتدعي أنها تعالجها، إلا أنه لا توجد حاليًا طريقة للتحقق من صحة النصوص. تقوم الأداة بمسح كل الصوت “لأسباب تتعلق بسلامة البيانات”، وفقًا لمارتن رايسون، كبير مسؤولي التكنولوجيا في Nabla. تدعي الشركة أيضًا أنه يجب على مقدمي الخدمة تعديل النسخ والموافقة عليها بسرعة (مع كل الوقت الإضافي الذي يتمتع به الأطباء؟)، ولكن هذا النظام قد يتغير. وفي الوقت نفسه، لا يمكن لأي شخص آخر التأكد من دقة النسخ بسبب قوانين الخصوصية.



Source link