Bu model, 2026-10-16 tarihinde Hugging Face Transformers'a katkıda bulunulmuştur.

Beam

Genel Bakış

Beam, Reflection’ın ilk açık ağırlıklı modelidir; 501B toplam parametreye ve token başına 23B aktif parametreye sahip, kodlama, akıl yürütme ve ajan tabanlı iş yükleri için geliştirilmiş seyrek uzman karışımı (MoE) bir dil modelidir. 23,8T token üzerinde ön eğitimden geçirilmiş ve büyük ölçekli asenkron pekiştirmeli öğrenme ile son eğitimden geçirilmiştir. Beam yalnızca metin tabanlıdır ve her yanıtından önce akıl yürütür. Sohbet şablonundaki bir akıl yürütme çabası ayarı, bu sürecin ne kadar süreceğini kontrol eder.

Beam, 52 çözücü katmanına sahiptir ve aşağıdaki özellikleri birleştirir:

• Hibrit kayan ve tam dikkat. Her altıncı katman ve son katman tam dikkat kullanırken, diğerleri en son sliding_window (512) token'a dikkat eder. layer_types bu deseni belirler.
• Kayan katmanlarda RoPE, tam katmanlarda NoPE. rope_parameters anahtarı katman türüne göre belirlenir ve None, konumsal kodlaması olmayan bir katman türünü belirtir. Tam dikkat katmanları sorguları ölçekler (ölçeklenebilir softmax): 1 tabanlı n konumundaki sorgu, bağlam büyüdükçe dikkatin düzleşmesini önleyen (1 + n / 2048) ** 0.1 ile çarpılır.
• Gated attention. 48 sorgu başlığı ve 8 anahtar/değer başlığına sahip gruplu sorgu dikkati (grouped-query attention) ve her sorgu ve anahtar başlığı için RMSNorm. Dikkat girdisinden hesaplanan, başlık başına öğrenilmiş bir önyüklemeye sahip sigmoid kapısı, çıktı projeksiyonundan önce dikkat çıktısını öğe bazlı olarak ölçekler.
• Sparse MoE. İlk 3 katman yoğun SwiGLU MLP kullanırken, kalan 49 katman her token'ı 256 uzman arasından 8'ine yönlendirir ve ortak uzman bulunmaz (mlp_layer_types deseni belirler). Router, uzmanları sigmoid ile puanlar, ek bir kayıp yerine öğrenilen uzman başına bir önyargı ile yükü dengeleyerek her token'ı n_group uzman grubundan en iyi topk_group grubuyla sınırlar. Yönlendirme ağırlıkları normalize edilir ve MoE çıktısı routed_scaling_factor ile ölçeklenir.
• Derinlik ölçekli artıklar ile sandviç normları. Her dikkat ve MLP bloğu, önce ve sonra bir RMSNorm ile sarılır. Artık eklemeleri yeniden ölçeklenir, böylece k katkıdan (gömülmeler ilk olarak sayılır) sonra, artık akışı bu katkıların toplamının sqrt(k) ile bölünmüşüne eşit olur.
• Son logit yumuşak sınırlama. Logitler 30 * tanh(logits / 30) ile sınırlandırılır (final_logit_softcapping).

Uygulama, Beam'in eğitildiği ve sunulduğu sayısal değerlerle eşleşmesi için RMSNorm ölçeklemesini, SwiGLU aktivasyonunu, RoPE'yi, sorgu ölçeklemesini, yönlendirmeyi ve softcapping'i FP32'de hesaplar. Yönlendirici ağırlıkları ve uzman sapması, yükleme sırasında FP32'de tutulur ve döndürülen logits her zaman FP32'dir.

Tüm orijinal Beam kontrol noktalarını Reflection kuruluşu altında bulabilirsiniz.

Bu model yonigozlan tarafından katkıda bulunmuştur.

Kullanım örnekleri

Beam’in sohbet şablonu, konuşmaları Beam’in Harmony biçiminde biçimlendirir ve yanıt şablonu, üretilen metni thinking, content ve tool_calls alanlarına sahip bir mesaja geri ayrıştırır. Aşağıdaki örnekler, bir yanıtı Pipeline veya AutoModelForCausalLM sınıfı ile oluşturur.

BF16 checkpoint yaklaşık 1 TB olduğundan, örnekler expert parallelism kullanarak onu 8 cihaz arasında paylaştırır ve her cihaza tam bir routed expert yerleştirir. Onları torchrun --nproc-per-node 8 <script.py> ile başlatın.

from transformers import DistributedConfig, pipeline

pipe = pipeline(
    task="text-generation",
    model="reflection/Beam-1.0-501B-A23B",
    model_kwargs={"distributed_config": DistributedConfig(tp_size=8, ep_size=8)},
)

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
output = pipe(messages, max_new_tokens=2048)
reply = output[0]["generated_text"][-1]
print(reply["thinking"])
print(reply["content"])

from transformers import AutoModelForCausalLM, AutoTokenizer, DistributedConfig

model_id = "reflection/Beam-1.0-501B-A23B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, distributed_config=DistributedConfig(tp_size=8, ep_size=8))

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True, reasoning_effort="low"
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0])
print(message["thinking"])
print(message["content"])

Bütün katmanları her cihaza yerleştiren, cihazları sırayla çalıştıran ve yükleme sırasında bellek yetersizliği yaşayabilen device_map="auto" yerine bunu tercih edin.

Beam’in önerdiği temperature=0.7 ve top_p=0.99 değerleriyle üretim örnekleri alın; bu değerler checkpoint’in GenerationConfig tarafından varsayılan olarak ayarlanır. Açgözlü çözümleme yapmak için do_sample=False parametresini iletin.

Mantıksal çaba

Beam'in ne kadar akıl yürüteceğini kontrol etmek için reasoning_effort değerini apply_chat_template() fonksiyonuna iletin. Bu parametre, bir tamsayı bütçesini veya aşağıdaki etiketlerden birini kabul eder. Beam, 8'in altındaki çabalarla eğitilmediğinden daha küçük değerler dikkate alınmaz.

reasoning_effort ayarlanmadığında şablon max değerini kullanır. max_new_tokens akıl yürütme sırasında tükendiğinde, ayrıştırılan mesajda thinking alanı bulunur ancak content alanı yoktur.

Çok turlu sohbetler

Ayrıştırılan mesajı geçmişe olduğu gibi ekleyin. Beam, önceki akıl yürütmesi olmadan çıktısını bozar; sohbet şablonu bunu thinking alanından okur (reasoning_content ve reasoning de kabul edilir). Varsayılan olarak, akıl yürütme içermeyen bir asistan turu boş bir akıl yürütme bloğuyla oluşturulur. add_generation_prompt=True olduğunda, Beam sunarken önerilen davranış olarak, bunun yerine hata fırlatmak için allow_missing_thinking=False parametresini iletin.

messages.append(message)
messages.append({"role": "user", "content": "And why are sunsets red?"})
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)

Araç çağrısı

tools hem apply_chat_template() hem de parse_response() fonksiyonlarına aktarın. tools kullanıldığında, ayrıştırılan argümanlar her aracın şemasındaki türlere dönüştürülür; kullanılmadığında ise tüm argümanlar birer dizgedir.

def get_weather(city: str):
    """
    Get the current weather in a city.

    Args:
        city: The city name.
    """
    return "Sunny, 22 C"


messages = [{"role": "user", "content": "What's the weather like in Paris right now?"}]
inputs = tokenizer.apply_chat_template(
    messages, tools=[get_weather], add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0], tools=[get_weather])
print(message["tool_calls"])
# [{'type': 'function', 'function': {'name': 'get_weather', 'arguments': {'city': 'Paris'}}}]

messages.append(message)
for call in message["tool_calls"]:
    result = get_weather(**call["function"]["arguments"])
    messages.append({"role": "tool", "name": call["function"]["name"], "content": result})

Ardından nihai yanıtı almak için messages üzerinden yeniden üretin. Çözümlenmiş araç çağrıları id içermez ve biçim, sonuçları çağrılara konuma göre eşleştirir; bu nedenle araç sonuçlarını çağrıların sırasıyla döndürün. Üretim, nihai bir yanıt (<|return|>) veya bir araç çağrısı (<|call|>) sonrasında durur; generation_config.json her ikisini de listeler.

Akış için, get_response_parser() üretildikçe metin parçalarını feed() ile besleyebileceğiniz bir ayrıştırıcı döndürür. Daha fazla ayrıntı için Yanıt ayrıştırma bölümüne bakın.

Notlar

• Şablon argümanları. reasoning_effort'ın yanı sıra sohbet şablonu, model_identity (sistem mesajının ilk satırını değiştirir), builtin_tools ve allow_missing_thinking değerlerini kabul eder. builtin_tools, yalnızca search ve browse araçlarını ve yalnızca Beam'in eğitildiği tanımlarla birlikte adlandırmalıdır. Diğer araçlar için yalnızca tools yeterlidir. system ve developer mesajları yalnızca konuşmanın başında işlenir.
• Eğitim. Sohbet şablonu, apply_chat_template(..., return_dict=True, return_assistant_tokens_mask=True) ile asistan çıktısını işaretler; bu sayede TRL’nin SFTConfig(assistant_only_loss=True) ayarı yalnızca asistan jetonları üzerinde eğitim yapar. Maske, her asistan turundaki akıl yürütme, yanıt ve araç çağrılarını kapsar.
• Yardımcı kayıp yok. Router, uzman yükünü önyargısı aracılığıyla dengelediği için BeamForCausalLM yük dengeleme kaybı hesaplamaz. output_router_logits=True yine de router logitlerini döndürür.

BeamConfig

>>> from transformers import BeamConfig

>>> # Initializing a Beam configuration
>>> configuration = BeamConfig()

BeamModel

BeamForCausalLM