Anthropic showed that a method they previously used for the interpretability of small models could scale to their medium-sized LLM, Claude 3 Sonnet. They demonstrated that features (concepts, entities, words, etc.) are represented inside the LLM by patterns of neurons firing together. By mapping millions of features in Claude 3 Sonnet, they are able to understand what the model is “thinking” about during inference.
Introduction Arabic undeniably holds a significant place among the world’s languages, a status that will persist for decades to come. It is one of the six official languages of the United Nations, alongside Mandarin Chinese, French, English, Spanish, and Russian. Ranking fifth in terms of native speakers—after Mandarin, Hindi, Spanish, and English—Arabic is spoken by […]
قصة برج بابل تقول قصة برج بابل في الثقافة الغربية في إحدى تفسيراتها، أن الإنسان شرع في بناء برج شاهق العلوّ يصل السماوات في مدينة بابل التاريخية. فعاقبته السماء على تعجرفه وطموحه غير المحدود بهدم البرج قبل اكتماله وبشرذمة اللغات والشعوب، كي لا يتسطيع البشر العمل سوية لتحدّ الطبيعة من جديد ولتذكيرهم بمكانتهم وضرورة وضع […]
آثار التقدم التقني في مجال الذكاء الصنعي لاسيما في نماذج اللغة .الكبيرة سيقع جلّها على مهن “الياقات البيضاء” من مهندسين، وأطباء، واقتصاديين، وموظفين إداريين، ومحامين، ومستشارين ومصممين وكتاب وصحفيين ومؤلفين وغيرهم.
التقدم العلمي في مجال الذكاء الصنعي Artificial Intelligence وبالتحديد نماذج اللغات الكبيرة Large Language Models LLMs والذي بدأت أنباؤه وانعكاساته تصل قطاعات الاقتصاد كافة، وصل إلى مرحلة حرجة وملحة، تحتاج تسليط الضوء وتحتاج التمعن في معانيها وتبعاتها. في الأسابيع القليلة الماضية، قامت شركة OpenAI بالاعلان عن نموذج GPT-4. وجامعة Stanford أعلنت عن إصدار نموذج Alpaca […]