Эта модель была добавлена в Hugging Face Transformers 16.10.2026.

Beam

Обзор

Beam — первая модель с открытыми весами от Reflection. Это разреженная модель-смесь экспертов (MoE) для обработки естественного языка с общим числом параметров 501 млрд и 23 млрд активных параметров на токен, разработанная для задач программирования, рассуждений и агентных сценариев. Модель была предварительно обучена на 23,8 трлн токенов, а затем дообучена с помощью крупномасштабного асинхронного обучения с подкреплением. Beam работает только с текстом и выполняет рассуждения перед каждым ответом. Параметр усилия рассуждений в шаблоне чата управляет глубиной этого процесса.

Модель Beam содержит 52 слоя декодера и объединяет следующие возможности:

• Гибридное скользящее и полное внимание. Каждое шестое и последнее слои используют полное внимание, а остальные обращаются к последним sliding_window (512) токенам. layer_types задаёт этот паттерн.
• RoPE на слоях скользящего внимания, NoPE на слоях полного внимания. rope_parameters индексируется по типу слоя, а None обозначает тип слоя без позиционного кодирования. В слоях полного внимания вместо этого масштабируются запросы (масштабируемый softmax): запрос на позиции n (нумерация с 1) умножается на (1 + n / 2048) ** 0.1, что предотвращает сглаживание внимания по мере роста контекста.
• Внимательность с гейтом (Gated attention). Групповое внимание (Grouped-query attention) с 48 головами запросов и 8 головами ключей/значений, а также RMSNorm для каждой головы запроса и ключа. Сигмоидный гейт, вычисляемый на основе входных данных внимания и имеющий обучаемый смещение для каждой головы, масштабирует выход внимания поэлементно перед проекцией на выход.
• Сparse MoE. Первые 3 слоя используют плотный SwiGLU MLP, а оставшиеся 49 слоев направляют каждый токен к 8 из 256 экспертов, без общего эксперта (mlp_layer_types задает паттерн). Роутер оценивает экспертов с помощью сигмоиды, балансирует нагрузку с помощью обучаемого смещения для каждого эксперта вместо вспомогательной функции потерь и ограничивает каждый токен лучшими topk_group из n_group групп экспертов. Веса маршрутизации нормализуются, а выход MoE масштабируется множителем routed_scaling_factor.
• Нормализация «сэндвич» с остаточными связями, масштабируемыми по глубине. Каждый блок внимания и MLP обрамляется нормализацией RMSNorm до и после. Остаточные слагаемые перемасштабируются так, чтобы после k вкладов (считая эмбеддинги первым) поток остатков представлял собой их сумму, делённую на sqrt(k).
• Ограничение (softcapping) финальных логитов. Логиты ограничиваются по формуле 30 * tanh(logits / 30) (final_logit_softcapping).

Реализация вычисляет масштабирование RMSNorm, активацию SwiGLU, RoPE, масштабирование запросов, маршрутизацию и softcapping в FP32, чтобы соответствовать численным характеристикам, с которыми Beam обучался и обслуживался. Веса маршрутизатора и смещение экспертов сохраняются в FP32 при загрузке, а возвращаемые logits всегда представлены в FP32.

Все исходные контрольные точки Beam можно найти в организации Reflection.

Эта модель была предоставлена пользователем yonigozlan.

Примеры использования

Шаблон чата Beam форматирует диалоги в формате Harmony Beam, а его шаблон ответа разбирает сгенерированный текст обратно в сообщение с полями thinking, content и tool_calls. В примерах ниже ответ генерируется с помощью Pipeline или класса AutoModelForCausalLM.

Чекпоинт в формате BF16 занимает около 1 ТБ, поэтому в примерах он распределяется по 8 устройствам, при этом целые маршрутизированные эксперты размещаются на каждом устройстве с использованием экспертного параллелизма. Запускайте их командой torchrun --nproc-per-node 8 <script.py>.

from transformers import DistributedConfig, pipeline

pipe = pipeline(
    task="text-generation",
    model="reflection/Beam-1.0-501B-A23B",
    model_kwargs={"distributed_config": DistributedConfig(tp_size=8, ep_size=8)},
)

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
output = pipe(messages, max_new_tokens=2048)
reply = output[0]["generated_text"][-1]
print(reply["thinking"])
print(reply["content"])

from transformers import AutoModelForCausalLM, AutoTokenizer, DistributedConfig

model_id = "reflection/Beam-1.0-501B-A23B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, distributed_config=DistributedConfig(tp_size=8, ep_size=8))

messages = [{"role": "user", "content": "Explain in one sentence why the sky is usually blue."}]
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True, reasoning_effort="low"
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0])
print(message["thinking"])
print(message["content"])

Предпочитайте этот вариант device_map="auto", который размещает целые слои на каждом устройстве, выполняет их по одному на устройстве и может исчерпать память при загрузке.

Примеры генерации с рекомендованными Beam значениями temperature=0.7 и top_p=0.99, которые по умолчанию задаются в GenerationConfig чекпоинта. Передайте do_sample=False, чтобы декодировать жадно.

Уровень усилий для рассуждений

Передайте reasoning_effort в apply_chat_template(), чтобы управлять глубиной рассуждений Beam. Параметр принимает целочисленный бюджет или одно из значений, перечисленных ниже. Beam не обучался с усилиями ниже 8, поэтому меньшие значения не учитываются.

Если reasoning_effort не задан, шаблон использует max. Если max_new_tokens исчерпываются в процессе рассуждения, разобранный ответ содержит thinking, но не содержит content.

Многоразовые диалоги

Добавляйте разобранное сообщение в историю без изменений. Качество вывода Beam ухудшается без его предыдущих рассуждений, которые шаблон чата считывает из thinking (также принимаются reasoning_content и reasoning). По умолчанию ход ассистента без рассуждений отображается с пустым блоком рассуждений. Передайте allow_missing_thinking=False, чтобы при add_generation_prompt=True вызывать ошибку вместо этого; это рекомендуется при обслуживании Beam.

messages.append(message)
messages.append({"role": "user", "content": "And why are sunsets red?"})
inputs = tokenizer.apply_chat_template(
    messages, add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)

Вызов инструментов

Передавайте tools в обе функции: apply_chat_template() и parse_response(). При наличии tools разобранные аргументы приводятся к типам, указанным в схеме каждого инструмента; без него все аргументы остаются строками.

def get_weather(city: str):
    """
    Get the current weather in a city.

    Args:
        city: The city name.
    """
    return "Sunny, 22 C"


messages = [{"role": "user", "content": "What's the weather like in Paris right now?"}]
inputs = tokenizer.apply_chat_template(
    messages, tools=[get_weather], add_generation_prompt=True, return_tensors="pt", return_dict=True
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=2048)
generated = tokenizer.decode(outputs[0, inputs["input_ids"].shape[1] :])
message = tokenizer.parse_response(generated, prefix=inputs["input_ids"][0], tools=[get_weather])
print(message["tool_calls"])
# [{'type': 'function', 'function': {'name': 'get_weather', 'arguments': {'city': 'Paris'}}}]

messages.append(message)
for call in message["tool_calls"]:
    result = get_weather(**call["function"]["arguments"])
    messages.append({"role": "tool", "name": call["function"]["name"], "content": result})

Затем снова выполните генерацию из messages, чтобы получить окончательный ответ. Разобранные вызовы инструментов не имеют id, а формат сопоставляет результаты с вызовами по позиции, поэтому возвращайте результаты инструментов в том же порядке, что и вызовы. Генерация останавливается после окончательного ответа (<|return|>) или вызова инструмента (<|call|>); оба варианта перечислены в generation_config.json.

Для потоковой передачи get_response_parser() возвращает парсер, в который вы feed() подаете фрагменты текста по мере их генерации. Подробнее см. в разделе Разбор ответа.

Примечания

• Аргументы шаблона. Помимо reasoning_effort, шаблон чата принимает model_identity (заменяет первую строку системного сообщения), builtin_tools и allow_missing_thinking. В builtin_tools следует указывать только инструменты search и browse, и только с теми определениями, с которыми обучался Beam. Для остальных инструментов достаточно указать tools. Сообщения system и developer рендерятся только в начале диалога.
• Обучение. Шаблон чата помечает вывод ассистента для apply_chat_template(..., return_dict=True, return_assistant_tokens_mask=True), поэтому SFTConfig(assistant_only_loss=True) в TRL обучает модель только на токенах ассистента. Маска охватывает рассуждения, ответ и вызовы инструментов каждого хода ассистента.
• Вспомогательная функция потерь отсутствует. Роутер балансирует нагрузку на экспертах с помощью смещения, поэтому BeamForCausalLM не вычисляет потерю балансировки нагрузки. Параметр output_router_logits=True по-прежнему возвращает логиты роутера.

BeamConfig

>>> from transformers import BeamConfig

>>> # Initializing a Beam configuration
>>> configuration = BeamConfig()

BeamModel

BeamForCausalLM