Skip to content
mini-lab
Features of prelude-2

Feature #776

Fires on “3” (not labeled yet: read the examples)

Fires on
0.17% of tokens
Mostly in
python
Layer
after block 4

Where it fires

  • python 43%
  • agent 29%
  • worksheet 14%
  • story 7%
  • chat 6%

Makes the model say

5 way⏎ "!" cried end aloneaid

Makes it not say

Bug its something what - foundnder

Strongest examples

On text the dictionary never trained on. The underlined token is where it fires most.

  1. python 5.34
    2.6666666666666665`.
  2. python 5.33
    main.py⏎[8]⏎4.333333333
  3. agent 5.08
    6.666666666666667⏎ ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  4. agent 4.98
    6666666666666665⏎```<|assistant_end|>
  5. python 4.97
    3.6666666666666665⏎
  6. python 4.88
    3.6666666666666665⏎
  7. python 4.74
    main.py⏎2⏎8.33333333333
  8. python 4.2
    8.333333333333334`.⏎
  9. python 4.07
    9, 4])⏎7.3333333333
  10. agent 3.87
    script.py<|tool_call_end|><|assistant_end|><|tool_start|>6.33333333333
  11. agent 3.84
    3 script.py<|tool_call_end|><|assistant_end|><|tool_start|>6.3333333333
  12. python 3.8
    4.333333333333333⏎assert