< Prev | Home | Model | Random | Next >

Model: GPT-2 Small: 12 Layers, 3072 Neurons per Layer

Dataset: Open Web Text

Neuron 3067 in Layer 5

Load this data into an Interactive Neuroscope

See Documentation here

Hooked Transformer Loading: HookedTransformer.from_pretrained('gpt2-small')

Click the toggle to see the full text!



Text #0

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.9237. Min Act: -0.1700

Data Index: 6138049 (Open Web Text)

Max Activating Token Index: 785

Click toggle to see full text

Truncated

in Boise State Garth Brooks Mike Bobo Colorado State Sam Hunt Eric Kiesau Fresno State Luke Bryan Nick Rolovich Hawaii J Boog Brian Polian Nevada Bruce Springsteen Bob Davie New Mexico Van Morrison Rocky Long San Diego State AC/DC Ron Caragher San Jose State Kenny Chesney Tony

Full Text #0

<|endoftext|> vote-getters: Kenny Chesney, Eagles, George Strait (five votes); Garth Brooks (four votes); AC/DC, Toby Keith, Dave Matthews Band, Prince, Bruce Springsteen, James Taylor, The Temptations, Led Zeppelin (three votes). 
 
By conference: 
 
American Coach School Favorite musical act Tommy Tuberville Cincinnati Johnny Cash Bob Diaco Connecticut Sia Scottie Montgomery East Carolina Sade Tom Herman Houston Michael Jackson Mike Norvell Memphis Tom Petty Ken Niumatalolo Navy Michael Jackson Chad Morris SMU George Strait Willie Taggart USF Drake Matt Rhule Temple Dave Matthews Band Willie Fritz Tulane The Spinners Philip Montgomery Tulsa Otis Redding Scott Frost UCF Zac Brown Band 
 
ACC Coach School Favorite musical act Steve Addazio Boston College James Taylor Dabo Swinney Clemson Garth Brooks David Cutcliffe Duke John Mellencamp Jimbo Fisher Florida State Lynyrd Skynyrd Paul Johnson Georgia Tech Kenny Chesney Bobby Petrino Louisville Stevie Nicks Mark Richt Miami David Richt Dave Doeren NC State Merle Haggard Larry Fedora North Carolina Eagles Pat Narduzzi Pittsburgh AC/DC Dino Babers Syracuse James Brown Bronco Mendenhall Virginia Jack Johnson Justin Fuente Virginia Tech Dave Matthews Band Dave Clawson Wake Forest Talking Heads 
 
Big 12 Coach School Favorite musical act Jim Grobe Baylor The Black Keys Matt Campbell Iowa State Van Halen David Beaty Kansas Florida Georgia Line Bill Snyder Kansas State Frank Sinatra Bob Stoops Oklahoma Toby Keith Mike Gundy Oklahoma State Prince Gary Patterson TCU Fleetwood Mac Charlie Strong Texas DJ Khaled Kliff Kingsbury Texas Tech Kings of Leon Dana Holgorsen West Virginia Prince 
 
Big Ten Coach School Favorite musical act Lovie Smith Illinois George Clinton Kevin Wilson Indiana Bob Seger & the Silver Bullet Band Kirk Ferentz Iowa Pat Green D.J. Durkin Maryland Red Hot Chili Peppers Jim Harbaugh Michigan Bob Marley Mark Dantonio Michigan State Bruce Springsteen Tracy Claeys Minnesota Declined to answer Mike Riley Nebraska Gary P. Nunn Pat Fitzgerald Northwestern Kenny Chesney Urban Meyer Ohio State Sister Hazel James Franklin Penn State Jay Z Gerad Parker Purdue Garth Brooks Chris Ash Rutgers Florida Georgia Line Paul Chryst Wisconsin Phil Vassar 
 
Conference USA Coach School Favorite musical act Brad Lambert Charlotte George Strait Charlie Partridge FAU U2 Ron Cooper FIU Frankie Beverly Skip Holtz Louisiana Tech Kenny Chesney Doc Holiday Marshall Declined to answer Rick Stockstill Middle Tennessee The Temptations Seth Littrell North Texas Jerry Jeff Walker Bobby Wilder Old Dominion AC/DC David Bailiff Rice George Strait Jay Hopson Southern Miss Meat Loaf Frank Wilson Texas San Antonio Trombone Shorty Sean Kugler UTEP Led Zeppelin Jeff Brohm Western Kentucky Toby Keith 
 
Independents Coach School Favorite musical act Jeff Monken Army Buddy Guy Kalani Sitake BYU Fiji Brian Kelly Notre Dame Bruce Springsteen Mark Whipple UMass The Spinners 
 
MAC Coach School Favorite musical act Terry Bowden Akron James Taylor Mike Neu Ball State Luke Bryan Mike Jinks Bowling Green Chris Stapleton Lance Leipold Buffalo Phil Vassar John Bonamego Central Michigan Tim McGraw Chris Creighton Eastern Michigan Eagles Paul Haynes Kent State Prince Chuck Martin Miami (OH) Billy Joel Rod Carey Northern Illinois Pearl Jam Frank Solich Ohio Bob Seger & The Silver Bullet Band Jason Candle Toledo Jay Z P.J. Fleck Western Michigan Jason Aldean 
 
MWC Coach School Favorite musical act Troy Calhoun Air Force Brad Paisley Bryan Harsin Boise State Garth Brooks Mike Bobo Colorado State Sam Hunt Eric Kiesau Fresno State Luke Bryan Nick Rolovich Hawaii J Boog Brian Polian Nevada Bruce Springsteen Bob Davie New Mexico Van Morrison Rocky Long San Diego State AC/DC Ron Caragher San Jose State Kenny Chesney Tony Sanchez UNLV Van Halen Matt Wells Utah State Kenny Chesney Craig Bohl Wyoming Eagles 
 
Pac-12 Coach School Favorite musical act Rich Rodriguez Arizona Eagles Todd Graham Arizona State George Strait Sonny Dykes California Dave Matthews Band Mike MacIntyre Colorado MercyMe Mark Helfrich Oregon Daft Punk Gary Andersen Oregon State The Cars David Shaw Stanford Declined to answer Jim Mora UCLA Led Zeppelin Clay Helton USC Darius Rucker Kyle Whittingham Utah The Rolling Stones Chris Petersen Washington Creedence Clearwater Revival Mike Leach Washington State Neil Young 
 
SEC Coach School Favorite musical act Nick Saban Alabama Eagles Bret Bielema Arkansas The Temptations Gus Malzahn Auburn The Cars Jim McElwain Florida Earth, Wind & Fire Kirby Smart Georgia The Rolling Stones Mark Stoops Kentucky Toby Keith Ed Orgeron LSU Creedence Clearwater Revival Dan Mullen Mississippi State U2 Barry Odom Missouri Blake Shelton Hugh Freeze Ole Miss Chris Tomlin Will Muschamp South Carolina George Strait Butch Jones Tennessee The Gap Band Kevin Sumlin Texas A&M Drake Derek Mason Vanderbilt Charlie Wilson<|endoftext|>In a previous blog post, I

Text #1

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.8382. Min Act: -0.1700

Data Index: 8214336 (Open Web Text)

Max Activating Token Index: 572

Click toggle to see full text

Truncated

Full Text #1


Text #2

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.7332. Min Act: -0.1700

Data Index: 2080345 (Open Web Text)

Max Activating Token Index: 533

Click toggle to see full text

Truncated

Full Text #2


Text #3

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6728. Min Act: -0.1700

Data Index: 7956069 (Open Web Text)

Max Activating Token Index: 778

Click toggle to see full text

Truncated

Full Text #3


Text #4

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6683. Min Act: -0.1700

Data Index: 1488268 (Open Web Text)

Max Activating Token Index: 602

Click toggle to see full text

Truncated

Full Text #4


Text #5

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6831. Min Act: -0.1700

Data Index: 6110453 (Open Web Text)

Max Activating Token Index: 497

Click toggle to see full text

Truncated

Full Text #5


Text #6

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6742. Min Act: -0.1700

Data Index: 312075 (Open Web Text)

Max Activating Token Index: 557

Click toggle to see full text

Truncated

Full Text #6


Text #7

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6800. Min Act: -0.1700

Data Index: 8479916 (Open Web Text)

Max Activating Token Index: 604

Click toggle to see full text

Truncated

Full Text #7


Text #8

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6830. Min Act: -0.1700

Data Index: 3281837 (Open Web Text)

Max Activating Token Index: 446

Click toggle to see full text

Truncated

Full Text #8


Text #9

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6532. Min Act: -0.1700

Data Index: 6850334 (Open Web Text)

Max Activating Token Index: 747

Click toggle to see full text

Truncated

Full Text #9


Text #10

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6694. Min Act: -0.1700

Data Index: 5355797 (Open Web Text)

Max Activating Token Index: 547

Click toggle to see full text

Truncated

Full Text #10


Text #11

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6640. Min Act: -0.1700

Data Index: 3884384 (Open Web Text)

Max Activating Token Index: 509

Click toggle to see full text

Truncated

Full Text #11


Text #12

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6521. Min Act: -0.1700

Data Index: 715966 (Open Web Text)

Max Activating Token Index: 474

Click toggle to see full text

Truncated

Full Text #12


Text #13

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6235. Min Act: -0.1700

Data Index: 5844604 (Open Web Text)

Max Activating Token Index: 62

Click toggle to see full text

Truncated

Full Text #13


Text #14

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6085. Min Act: -0.1700

Data Index: 873770 (Open Web Text)

Max Activating Token Index: 887

Click toggle to see full text

Truncated

Full Text #14


Text #15

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6396. Min Act: -0.1700

Data Index: 4456622 (Open Web Text)

Max Activating Token Index: 551

Click toggle to see full text

Truncated

Full Text #15


Text #16

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6262. Min Act: -0.1700

Data Index: 1534356 (Open Web Text)

Max Activating Token Index: 970

Click toggle to see full text

Truncated

Full Text #16


Text #17

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6039. Min Act: -0.1700

Data Index: 2775847 (Open Web Text)

Max Activating Token Index: 985

Click toggle to see full text

Truncated

Full Text #17


Text #18

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6339. Min Act: -0.1700

Data Index: 6107113 (Open Web Text)

Max Activating Token Index: 622

Click toggle to see full text

Truncated

Full Text #18


Text #19

Max Range: 2.9237. Min Range: -2.9237

Max Act: 2.6011. Min Act: -0.1700

Data Index: 6228763 (Open Web Text)

Max Activating Token Index: 89

Click toggle to see full text

Truncated

Full Text #19