< Prev | Home | Model | Random | Next >

Model: GPT-2 Xl: 48 Layers, 6400 Neurons per Layer

Dataset: Open Web Text

Neuron 6397 in Layer 39

Load this data into an Interactive Neuroscope

See Documentation here

Transformer Lens Loading: HookedTransformer.from_pretrained('gpt2-xl')



Text #0

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.9288. Min Act: -0.1700

Data Index: 6847623 (Open Web Text)

Max Activating Token Index: 979

Click toggle to see full text

Truncated

 top of her lungs for a chance to see an author talk. 
 
Not that I blame her, really. I'm happy to live in a world where the likes of Tina Fey can provoke insane fervor. The conversation sold out all of its 800-plus tickets in 12 minutes — a synagogue record

Full Text #0

<|endoftext|> however, this kind of affirmative action is much less pernicious than another practised by many universities: �legacy preferences, a programme for the children of alumnias if privileged children were not already doing well enough out of the education system. 
 
In most Ivy League institutions, the eight supposedly most select universities of the north-east, �legacies make up between 10% and 15% of every class. At Harvard they are over three times more likely to be admitted than others. The students in America's places of higher education are increasingly becoming an oligarchy tempered by racial preferences. This is sad in itself, but even sadder when you consider the extraordinary role that the same universitiesparticularly Conant's Harvardplayed in promoting meritocracy in the first half of the 20th century. 
 
America's great companies are also becoming less successful agents of upward mobility. The years from 1880 to 1960 were a period of great corporate behemoths. These produced a new class of Americansprofessional managers. They built elaborate internal hierarchies, and also accepted their responsibilities to both their workers and their local communities. But since the 1970s the pressure of competition has forced these behemoths to become much leanerto reduce their layers, contract out some activities, and shift from full-time to part-time employees. It has became harder for people to start at the bottom and rise up the company hierarchy by dint of hard work and self-improvement. And it has also become harder for managers to keep their jobs in a single company. 
 
There are a few shafts of sun on the horizon. George Bush's No Child Left Behind Act tries to use a mixture of tests and punishments for lousy schools to improve the performance of minority children. Senator Edward Kennedy bangs the drum against legacy preferences. But the bad news outdoes the good. The Republicans, by getting rid of inheritance tax, seem hell-bent on ignoring Teddy Roosevelt's warnings about the dangers of a hereditary aristocracy. The Democrats are more interested in preferment for minorities than building ladders of opportunity for all. 
 
In his classic �The Promise of American Life, Herbert Croly noted that �a democracy, not less than a monarchy or an aristocracy, must recognise political, economic, and social distinctions, but it must also withdraw its consent whenever these discriminations show any tendency to excessive endurance. So far Americans have been fairly tolerant of economic distinctions. But that tolerance may not last for ever, if the current trend towards �excessive endurance is not reversed.<|endoftext|>A big announcement by Ubisoft is only a couple of days away, but the announcement might have been spoiled with a leak at Best Buy. Kotaku received two photographic images from a Best Buy worker showing off Assassins Creed III, which is allegedly slated to be revealed on March 5. 
 
The games promotional art shows off an Assassin character decked out in full Native American and Continental battle regalia, wielding a tomahawk in one hand and a flintlock pistol in the other. Hes also equipped with a bow and feathered arrows. Wearing an 18th-century military jacket, he stands in front of a Continental flag. 
 
Speculation about Assassins Creed III placed the game during the period of the American Revolution. Kotaku notes that the character bears resemblance to actor Wes Studi and appears Native American.<|endoftext|>Tina Fey: As Expected, A Totally Normal Person 
 
Enlarge this image toggle caption Jim Spellman/Getty Images Jim Spellman/Getty Images 
 
Last night, outside of the old Jewish synagogue on Sixth and I Streets in Washington, DC, I had my best-yet up-close encounter with a madwoman. She was middle-aged, wearing a rainbow-print top that hurt my eyes, and tinted-blue glasses. As I ran past her toward the synagogue, where I was running late to hear Tina Fey read, she yelled out, "Please take me with you!" 
 
The woman was scream-crying this request (scrying?), and just as I ducked into the building, I saw three burly security guards descend upon her to escort her off the property. Later, I heard police sirens and the staff whispering on two-way radios about "the incident." I've seen crazy fans before — on TV, outside Justin Bieber shows, at ComicCon — but never just one lone woman at her berserk best, begging at the top of her lungs for a chance to see an author talk. 
 
Not that I blame her, really. I'm happy to live in a world where the likes of Tina Fey can provoke insane fervor. The conversation sold out all of its 800-plus tickets in 12 minutes — a synagogue record — and as Fey marched up the aisle between two bodyguards, publicists flanking either side of her, I felt like I was at a bat mitzvah

Text #1

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.6788. Min Act: -0.1700

Data Index: 5874101 (Open Web Text)

Max Activating Token Index: 1003

Click toggle to see full text

Truncated

Full Text #1


Text #2

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.6163. Min Act: -0.1700

Data Index: 7475431 (Open Web Text)

Max Activating Token Index: 226

Click toggle to see full text

Truncated

Full Text #2


Text #3

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.5538. Min Act: -0.1700

Data Index: 1828399 (Open Web Text)

Max Activating Token Index: 695

Click toggle to see full text

Truncated

Full Text #3


Text #4

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.3663. Min Act: -0.1700

Data Index: 2169933 (Open Web Text)

Max Activating Token Index: 967

Click toggle to see full text

Truncated

Full Text #4


Text #5

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.3663. Min Act: -0.1700

Data Index: 8502770 (Open Web Text)

Max Activating Token Index: 771

Click toggle to see full text

Truncated

Full Text #5


Text #6

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.3663. Min Act: -0.1700

Data Index: 7722988 (Open Web Text)

Max Activating Token Index: 292

Click toggle to see full text

Truncated

Full Text #6


Text #7

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.3663. Min Act: -0.1700

Data Index: 4091465 (Open Web Text)

Max Activating Token Index: 352

Click toggle to see full text

Truncated

Full Text #7


Text #8

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.3038. Min Act: -0.1700

Data Index: 2624998 (Open Web Text)

Max Activating Token Index: 467

Click toggle to see full text

Truncated

Full Text #8


Text #9

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.2413. Min Act: -0.1700

Data Index: 8085917 (Open Web Text)

Max Activating Token Index: 857

Click toggle to see full text

Truncated

Full Text #9


Text #10

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.1788. Min Act: -0.1700

Data Index: 1922810 (Open Web Text)

Max Activating Token Index: 985

Click toggle to see full text

Truncated

Full Text #10


Text #11

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.2413. Min Act: -0.1700

Data Index: 5196771 (Open Web Text)

Max Activating Token Index: 607

Click toggle to see full text

Truncated

Full Text #11


Text #12

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.2413. Min Act: -0.1700

Data Index: 2964362 (Open Web Text)

Max Activating Token Index: 570

Click toggle to see full text

Truncated

Full Text #12


Text #13

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.2413. Min Act: -0.1700

Data Index: 8125961 (Open Web Text)

Max Activating Token Index: 474

Click toggle to see full text

Truncated

Full Text #13


Text #14

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.2413. Min Act: -0.1700

Data Index: 1295647 (Open Web Text)

Max Activating Token Index: 302

Click toggle to see full text

Truncated

Full Text #14


Text #15

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.1788. Min Act: -0.1700

Data Index: 6920296 (Open Web Text)

Max Activating Token Index: 578

Click toggle to see full text

Truncated

Full Text #15


Text #16

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.1788. Min Act: -0.1700

Data Index: 8014321 (Open Web Text)

Max Activating Token Index: 505

Click toggle to see full text

Truncated

Full Text #16


Text #17

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.1788. Min Act: -0.1700

Data Index: 6106182 (Open Web Text)

Max Activating Token Index: 653

Click toggle to see full text

Truncated

Full Text #17


Text #18

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.1788. Min Act: -0.1700

Data Index: 7821088 (Open Web Text)

Max Activating Token Index: 880

Click toggle to see full text

Truncated

Full Text #18


Text #19

Max Range: 9.9288. Min Range: -9.9288

Max Act: 9.1788. Min Act: -0.1700

Data Index: 2059084 (Open Web Text)

Max Activating Token Index: 140

Click toggle to see full text

Truncated

Full Text #19