< Prev | Home | Model | Random | Next >

Model: SoLU Model: 12 Layers, 6144 Neurons per Layer

Dataset: 80% C4 (Web Text) and 20% Python Code

Neuron 6143 in Layer 0

Load this data into an Interactive Neuroscope

See Documentation here

Hooked Transformer Loading: HookedTransformer.from_pretrained('solu-12l')

Click the toggle to see the full text!



Text #0

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0192. Min Act: -0.0001

Data Index: 1053480 (C4 (Web Text))

Max Activating Token Index: 138

Click toggle to see full text

Truncated

-funded PhD, ‘Testimonies of affection and dispatches of intelligence: The letters of Anthony Bacon, 1558-1601’, also at Queen Mary, explored the ways in which secret agents made use of aective bonds to achieve personal and political objectives, and

Full Text #0

<|BOS|> with.<|EOS|>Will is Post-Doctoral Research Fellow at Shakespeares Globe, where he leads the on-going investigation into indoor performance practice at the candlelit Sam Wanamaker Playhouse. Wills first degree was in English at Corpus Christi College, Oxford, and he took the M.Res in Renaissance and early modern studies at CELL during its residency at Queen Mary University of London. His AHRC-funded PhD, ‘Testimonies of affection and dispatches of intelligence: The letters of Anthony Bacon, 1558-1601’, also at Queen Mary, explored the ways in which secret agents made use of aective bonds to achieve personal and political objectives, and reveals the strategies these men adopted in a variety of early modern-specic locations including the Inns of Court, male-dominated aristocratic households and prisons.<|EOS|>If you are looking for reflection facebook gifs, reflection pinterest gifs, and reflection twitter gifs, then you came to the right place. A reflection animated gif image can capture an entire emotion and entertain us in a way non gif images can. Discover and Share the best GIFs on Tenor. 
Isabella Bubola mysterious self-portraits with mirrors and reflections. Infp infp things feelings introspection self reflection. Vector full metal icon on blue background. Our replica European style, self reflection gif, bright gold-toned, ribbed frame is cast in quality designer resin with an acanthus leaf and floret border that draws the eye toward the beautiful image. I came to the idea of making an alien head explode when I realized it would fit with my first sketch project that featured an alien hand. 
Dagger knife Damascus steel blade Camel Bone Hand Painting on Horse Face Handle. Bit of a different thing this week. Aleksandar Antonijevic asquaredphoto Recent Photos and Videos! I havent done a painting in a really long time, but recently felt inspired again so I jumped at the chance before it could get away. Tap and Hold to Download Share. 
Our Fashion Design students study downtown in the California Market Center. 
Yoga chi Meditation Karma dao reincarnation. The perfect SelfReflection Animated GIF for your conversation. Search, discover and share your favorite Self Reflection GIFs. Find GIFs with the latest and newest hashtags. Disney psychedelic artists on tumblr colorful mirror lsd matrix self.<|EOS|>So you all know that traveling by bike can be cheap – you live out of your tent, you cook on your stove, and you rely on yourself for transportation – but its also possible to backpack and bus for reasonably cheap as well. In Turkey you can expect to pay 10$-15$ dollars a night (each) for a room, 2$-6$ a meal if you eat out at local places (and only a dollar or so if you cook yourself), and 6$ for a three hour train ride, or 20$ for a five hour bus ride. We each expect to spend about 600$ for this month of travel and sightseeing and though its more more than the 200$/month we spent as we were cycling across the country, its still a lot lower than many people realize is possible. Here are a few general tips for budget backpacking no matter where you happen to be. 
Visiting a country offseason can be the easiest way to save money without even trying, plus, it gets rid of the crowds! A few nights ago here in Turkey we stayed at a wonderful hotel and payed fifty dollars a night for a beautiful family room (for the four of us). When we checked out, we found out that during the summer that same room is booked for months on end for a whooping 120 euros. Besides being cheaper, we find it much more pleasant to travel offseason, especially throughout a place like Turkey which relies so heavily on tourism. We have been able to visit some of the most touristic regions of the country without the chaotic hustle bustle that usually comes with the crowds during the summer. Another advantage to traveling offseason is that nothing is ever booked out, and in many places, you may be the only person in your large hotel! 
I know that this is a hard concept for some of you, but it really is possible (and in my idea much better) to arrive without a booking or concrete plans since its cheaper and leaves you open to more options. For starters, booking sites such as booking.com take a 15%-20% commission meaning that if you call the owner directly or just arrive and ask for a room on the spot, you can easily get the same room for that much cheaper without the owner loosing a cent. The other day we met a traveler who told us that he found a room online for thirty dollars a night, and when we inquired at the door without

Text #1

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0175. Min Act: -0.0001

Data Index: 475696 (C4 (Web Text))

Max Activating Token Index: 220

Click toggle to see full text

Truncated

Full Text #1


Text #2

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0169. Min Act: -0.0001

Data Index: 211401 (C4 (Web Text))

Max Activating Token Index: 538

Click toggle to see full text

Truncated

Full Text #2


Text #3

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0161. Min Act: -0.0001

Data Index: 598617 (C4 (Web Text))

Max Activating Token Index: 61

Click toggle to see full text

Truncated

Full Text #3


Text #4

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0156. Min Act: -0.0001

Data Index: 413865 (C4 (Web Text))

Max Activating Token Index: 209

Click toggle to see full text

Truncated

Full Text #4


Text #5

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0157. Min Act: -0.0001

Data Index: 1158998 (C4 (Web Text))

Max Activating Token Index: 369

Click toggle to see full text

Truncated

Full Text #5


Text #6

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0156. Min Act: -0.0001

Data Index: 870747 (C4 (Web Text))

Max Activating Token Index: 288

Click toggle to see full text

Truncated

Full Text #6


Text #7

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0149. Min Act: -0.0001

Data Index: 988133 (C4 (Web Text))

Max Activating Token Index: 994

Click toggle to see full text

Truncated

Full Text #7


Text #8

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0148. Min Act: -0.0001

Data Index: 85533 (C4 (Web Text))

Max Activating Token Index: 124

Click toggle to see full text

Truncated

Full Text #8


Text #9

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0151. Min Act: -0.0001

Data Index: 925279 (C4 (Web Text))

Max Activating Token Index: 259

Click toggle to see full text

Truncated

Full Text #9


Text #10

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0147. Min Act: -0.0001

Data Index: 752540 (C4 (Web Text))

Max Activating Token Index: 828

Click toggle to see full text

Truncated

Full Text #10


Text #11

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0147. Min Act: -0.0001

Data Index: 1089016 (C4 (Web Text))

Max Activating Token Index: 89

Click toggle to see full text

Truncated

Full Text #11


Text #12

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0148. Min Act: -0.0001

Data Index: 611212 (C4 (Web Text))

Max Activating Token Index: 632

Click toggle to see full text

Truncated

Full Text #12


Text #13

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0146. Min Act: -0.0001

Data Index: 446430 (C4 (Web Text))

Max Activating Token Index: 274

Click toggle to see full text

Truncated

Full Text #13


Text #14

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0147. Min Act: -0.0001

Data Index: 24893 (C4 (Web Text))

Max Activating Token Index: 362

Click toggle to see full text

Truncated

Full Text #14


Text #15

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0147. Min Act: -0.0001

Data Index: 706080 (C4 (Web Text))

Max Activating Token Index: 103

Click toggle to see full text

Truncated

Full Text #15


Text #16

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0146. Min Act: -0.0001

Data Index: 202765 (C4 (Web Text))

Max Activating Token Index: 148

Click toggle to see full text

Truncated

Full Text #16


Text #17

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0143. Min Act: -0.0001

Data Index: 618384 (C4 (Web Text))

Max Activating Token Index: 743

Click toggle to see full text

Truncated

Full Text #17


Text #18

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0145. Min Act: -0.0001

Data Index: 90296 (C4 (Web Text))

Max Activating Token Index: 7

Click toggle to see full text

Truncated

Full Text #18


Text #19

Max Range: 0.0192. Min Range: -0.0192

Max Act: 0.0143. Min Act: -0.0001

Data Index: 297846 (C4 (Web Text))

Max Activating Token Index: 522

Click toggle to see full text

Truncated

Full Text #19