Anthropic showed that a method they previously used for the interpretability of small models could scale to their medium-sized LLM, Claude 3 Sonnet. They demonstrated that features (concepts, entities, words, etc.) are represented inside the LLM by patterns of neurons firing together. By mapping millions of features in Claude 3 Sonnet, they are able to understand what the model is “thinking” about during inference.
Introduction Arabic undeniably holds a significant place among the world’s languages, a status that will persist for decades to come. It is one of the six official languages of the United Nations, alongside Mandarin Chinese, French, English, Spanish, and Russian. Ranking fifth in terms of native speakers—after Mandarin, Hindi, Spanish, and English—Arabic is spoken by […]
نستخدم في سوريا وفي بلاد الشام عموماً وكذلك في العراق أسماءً لِشهور السنة الشمسية، وبالتحديد لشهور التقويم الغريغوري، مختلفة عن تلك المعتمدة في ما يسمى باللغة العربية المعيارية الحديثة والمنقولة عن اللغة اللاتينية مثل يناير، فبراير، مارس، أبريل. وبقصد إحاطة القارئ غير الملِمِّ بأسماء الشهور هذه، أنقل عن أبي منصور الأَزهري الذي عاش في العهد […]
As head of engineering professionally and as a contributor to Open Source projects, I am involved in several WebApp projects, where I put a large emphasis on code quality, smooth CI/CD pipelines as part of my dedication to DevOps principles. Some of the projects involves interactions with S3 storage via the Minio package for python. […]
قصة برج بابل تقول قصة برج بابل في الثقافة الغربية في إحدى تفسيراتها، أن الإنسان شرع في بناء برج شاهق العلوّ يصل السماوات في مدينة بابل التاريخية. فعاقبته السماء على تعجرفه وطموحه غير المحدود بهدم البرج قبل اكتماله وبشرذمة اللغات والشعوب، كي لا يتسطيع البشر العمل سوية لتحدّ الطبيعة من جديد ولتذكيرهم بمكانتهم وضرورة وضع […]
آثار التقدم التقني في مجال الذكاء الصنعي لاسيما في نماذج اللغة .الكبيرة سيقع جلّها على مهن “الياقات البيضاء” من مهندسين، وأطباء، واقتصاديين، وموظفين إداريين، ومحامين، ومستشارين ومصممين وكتاب وصحفيين ومؤلفين وغيرهم.
التقدم العلمي في مجال الذكاء الصنعي Artificial Intelligence وبالتحديد نماذج اللغات الكبيرة Large Language Models LLMs والذي بدأت أنباؤه وانعكاساته تصل قطاعات الاقتصاد كافة، وصل إلى مرحلة حرجة وملحة، تحتاج تسليط الضوء وتحتاج التمعن في معانيها وتبعاتها. في الأسابيع القليلة الماضية، قامت شركة OpenAI بالاعلان عن نموذج GPT-4. وجامعة Stanford أعلنت عن إصدار نموذج Alpaca […]
The 6th of February 2023, a massive 7.8 earthquake hit a region in southern Turkey very close to the borders of Syria, in the early morning hours as most people were still asleep followed by many aftershocks including a massive 7.5 magnitude aftershock that happened on the same day while people were undergoing rescue operations […]
Several months ago, I finished reading “The Phoenix Project” by Gene Kim, George Spafford, and Kevin Behr. The book tell the story of an IT operation engineer, Bill Palmer, who get a sudden promotion and have to deal with all sorts of complications and difficulties while being under immense stress during a pivotal moment in […]
Recently, I was asked by a customer to help recovering a password of a VeraCrypt encrypted volume they lost access to. I did not wanted to fire a password cracking software like JohnTheRipper or HashCat with brute force attack because that should always be the last resort. The recommended approach for this particular case is […]