< Prev | Home | Model | Random | Next >

Model: GPT-2 Xl: 48 Layers, 6400 Neurons per Layer

Dataset: Open Web Text

Neuron 6398 in Layer 21

Load this data into an Interactive Neuroscope

See Documentation here

Transformer Lens Loading: HookedTransformer.from_pretrained('gpt2-xl')



Text #0

Max Range: 4.0197. Min Range: -4.0197

Max Act: 4.0197. Min Act: -0.1700

Data Index: 4690307 (Open Web Text)

Max Activating Token Index: 509

Click toggle to see full text

Truncated

 new study focuses on a stretch of the southern Pacific Ocean from Palau in the west to the Pitcairn Islands in the east. Within this 85m square kilometre (sq km) area are more than 2,000 islands. 
 
These islands come in all shapes and sizes – most are volcanic

Full Text #0

<|endoftext|> that there is a God who loves you as 
 
his beautiful daughter. If you ever need him, he will hear your Voice. 
 
Your sister from America- 
 
Jordan 
 
After this five of us went to the Tamar Center (our ministry contact) to have an all night prayer session in their four-story building in the middle of all these bars and clubs. The following is what I wrote in my journal last night: 
 
December 22, 2009 
 
"I feel like I just began a fight in a ring, and tonight (Lola) was Satan's first punch. He got a good hit 
 
in to my face! But He's going to wish he knocked me out!" 
 
"This problem is too big, impossible to kill....FALSE! This problem is too big FOR ME, but not for my God !" 
 
"There is no way to rescue these girls physically...FALSE! My God gave me a hart for them THEREFORE, 
 
he has a plan to get them out. I just have to pursue him for the revealing of that plan." 
 
"I can't pick and choose which parts/people I want to love like Christ does. I cant want the trafficked 
 
freed (physically, spiritually) and not the men who 'own' them....I either want All of them or None of<|endoftext|>The Chuuk flying fox. The Black-spotted Cuscus. The Fijian crested iguana. The Mariana skink. The greater monkey-faced bat. Poncelets giant rat. 
 
Not exactly household names, but these creatures have something in common: theyre all critically endangered and they all live on islands in the Pacific Ocean that are at high risk from rising sea levels. 
 
Thats the conclusion of a new study, published in the Nature journal Scientific Reports, which maps the distribution of 150 threatened species living on Pacific islands and their susceptibility to sea level rise. 
 
Some of these creatures are found on just a single island, so losing their habitats to encroaching seas would mean global extinction, the lead author tells Carbon Brief. 
 
Low-lying islands 
 
The new study focuses on a stretch of the southern Pacific Ocean from Palau in the west to the Pitcairn Islands in the east. Within this 85m square kilometre (sq km) area are more than 2,000 islands. 
 
These islands come in all shapes and sizes – most are volcanic or reefs – but they are predominantly small and low-lying. Their average size is just 1.3 sq km – some are just a tenth of that size – and 42% of them have a maximum elevation of less than 10m. 
 
These characteristics put the islands – and the species that live on them – at particular risk from sea level rise, storms and high waves, the study says. 
 
On small islands, land-based creatures have fewer places to move to when their habitats are lost. In addition, through evolution, many island-living species no longer have the traits that would have helped them move on – for example, many birds and insects have lost their ability to fly. 
 
Putting all these factors together, species living on these Pacific islands are �highly vulnerable to extinction, the paper says. 
 
Indeed, the 1,779 islands assessed in the study area are home to 150 amphibians, mammals and reptiles that feature on the International Union for Conservation of Natures (ICUN) Red List of Threatened Species. Fifty-one of these species are classed as �Vulnerable, 61 as �Endangered and 38 in the most at-risk category of �Critically Endangered. 
 
Eighty-four of the 150 species arent found anywhere else on Earth. Fifty-four of them – such as the Giant Bandicoot, the Goodfellows tree-kangaroo and the Taom Striped Gecko – can only be found on a single island. Eleven species live on two islands and the remaining 29 live on three or more. 
 
Susceptibility 
 
Using distribution data for the 150 species, the researchers mapped their locations across the islands. They then classified the �susceptibility of each island to rising sea levels according to its size, elevation, shape and the hardness/softness of its rock. 
 
In general, a small, low, narrow sandy island will usually be more vulnerable than a large, high, round volcanic island, explains lead author Prof Lalit Kumar from the University of New England in Australia. He tells Carbon Brief: 
 
Islands that are of sandy/coral origin, that have low elevations, that are small in size and those that are thin and long are the most susceptible to climate change. Of course, there are other factors, such as where they

Text #1

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.9259. Min Act: -0.1700

Data Index: 7239255 (Open Web Text)

Max Activating Token Index: 469

Click toggle to see full text

Truncated

Full Text #1


Text #2

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.8947. Min Act: -0.1700

Data Index: 687119 (Open Web Text)

Max Activating Token Index: 486

Click toggle to see full text

Truncated

Full Text #2


Text #3

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.8634. Min Act: -0.1700

Data Index: 5086126 (Open Web Text)

Max Activating Token Index: 917

Click toggle to see full text

Truncated

Full Text #3


Text #4

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.8321. Min Act: -0.1700

Data Index: 8611149 (Open Web Text)

Max Activating Token Index: 665

Click toggle to see full text

Truncated

Full Text #4


Text #5

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.8009. Min Act: -0.1700

Data Index: 6835061 (Open Web Text)

Max Activating Token Index: 785

Click toggle to see full text

Truncated

Full Text #5


Text #6

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.8009. Min Act: -0.1700

Data Index: 342924 (Open Web Text)

Max Activating Token Index: 863

Click toggle to see full text

Truncated

Full Text #6


Text #7

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.8009. Min Act: -0.1700

Data Index: 7108368 (Open Web Text)

Max Activating Token Index: 700

Click toggle to see full text

Truncated

Full Text #7


Text #8

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7852. Min Act: -0.1700

Data Index: 6509131 (Open Web Text)

Max Activating Token Index: 186

Click toggle to see full text

Truncated

Full Text #8


Text #9

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7696. Min Act: -0.1700

Data Index: 7972068 (Open Web Text)

Max Activating Token Index: 948

Click toggle to see full text

Truncated

Full Text #9


Text #10

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7539. Min Act: -0.1700

Data Index: 6454858 (Open Web Text)

Max Activating Token Index: 501

Click toggle to see full text

Truncated

Full Text #10


Text #11

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7383. Min Act: -0.1700

Data Index: 3321427 (Open Web Text)

Max Activating Token Index: 709

Click toggle to see full text

Truncated

Full Text #11


Text #12

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7383. Min Act: -0.1700

Data Index: 2091750 (Open Web Text)

Max Activating Token Index: 619

Click toggle to see full text

Truncated

Full Text #12


Text #13

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7383. Min Act: -0.1700

Data Index: 8307854 (Open Web Text)

Max Activating Token Index: 639

Click toggle to see full text

Truncated

Full Text #13


Text #14

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7227. Min Act: -0.1700

Data Index: 6763381 (Open Web Text)

Max Activating Token Index: 738

Click toggle to see full text

Truncated

Full Text #14


Text #15

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7227. Min Act: -0.1700

Data Index: 2946449 (Open Web Text)

Max Activating Token Index: 853

Click toggle to see full text

Truncated

Full Text #15


Text #16

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7227. Min Act: -0.1700

Data Index: 1948014 (Open Web Text)

Max Activating Token Index: 164

Click toggle to see full text

Truncated

Full Text #16


Text #17

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7227. Min Act: -0.1700

Data Index: 1989543 (Open Web Text)

Max Activating Token Index: 102

Click toggle to see full text

Truncated

Full Text #17


Text #18

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7227. Min Act: -0.1700

Data Index: 2730787 (Open Web Text)

Max Activating Token Index: 460

Click toggle to see full text

Truncated

Full Text #18


Text #19

Max Range: 4.0197. Min Range: -4.0197

Max Act: 3.7070. Min Act: -0.1700

Data Index: 8590702 (Open Web Text)

Max Activating Token Index: 474

Click toggle to see full text

Truncated

Full Text #19