Anthropic showed that a method they previously used for the interpretability of small models could scale to their medium-sized LLM, Claude 3 Sonnet. They demonstrated that features (concepts, entities, words, etc.) are represented inside the LLM by patterns of neurons firing together. By mapping millions of features in Claude 3 Sonnet, they are able to understand what the model is “thinking” about during inference.
Introduction Arabic undeniably holds a significant place among the world’s languages, a status that will persist for decades to come. It is one of the six official languages of the United Nations, alongside Mandarin Chinese, French, English, Spanish, and Russian. Ranking fifth in terms of native speakers—after Mandarin, Hindi, Spanish, and English—Arabic is spoken by […]
قصة برج بابل تقول قصة برج بابل في الثقافة الغربية في إحدى تفسيراتها، أن الإنسان شرع في بناء برج شاهق العلوّ يصل السماوات في مدينة بابل التاريخية. فعاقبته السماء على تعجرفه وطموحه غير المحدود بهدم البرج قبل اكتماله وبشرذمة اللغات والشعوب، كي لا يتسطيع البشر العمل سوية لتحدّ الطبيعة من جديد ولتذكيرهم بمكانتهم وضرورة وضع […]
آثار التقدم التقني في مجال الذكاء الصنعي لاسيما في نماذج اللغة .الكبيرة سيقع جلّها على مهن “الياقات البيضاء” من مهندسين، وأطباء، واقتصاديين، وموظفين إداريين، ومحامين، ومستشارين ومصممين وكتاب وصحفيين ومؤلفين وغيرهم.
التقدم العلمي في مجال الذكاء الصنعي Artificial Intelligence وبالتحديد نماذج اللغات الكبيرة Large Language Models LLMs والذي بدأت أنباؤه وانعكاساته تصل قطاعات الاقتصاد كافة، وصل إلى مرحلة حرجة وملحة، تحتاج تسليط الضوء وتحتاج التمعن في معانيها وتبعاتها. في الأسابيع القليلة الماضية، قامت شركة OpenAI بالاعلان عن نموذج GPT-4. وجامعة Stanford أعلنت عن إصدار نموذج Alpaca […]
Several months ago, I finished reading “The Phoenix Project” by Gene Kim, George Spafford, and Kevin Behr. The book tell the story of an IT operation engineer, Bill Palmer, who get a sudden promotion and have to deal with all sorts of complications and difficulties while being under immense stress during a pivotal moment in […]
تلقي السلطة السورية اللّوم في انهيار سعر صرف الليرة والتضخم على العقوبات أحادية الجانب. الحقيقة هي أن السلطة السورية تعاملت مع احتجاجات عام 2011 بشكل غير حكيم وقصير النظر كلّف الاقتصاد السوري أكثر من طاقته وكلّف رصيد سوريا من العلاقات الدولية أكثر مما تطيق. يدفع السوريون والسوريات ثمن أخطاء السلطة وسياساتها قصيرة النظر منذ 9 سنوات. 6 […]