< Prev | Home | Model | Random | Next >

Model: GPT-2 Xl: 48 Layers, 6400 Neurons per Layer

Dataset: Open Web Text

Neuron 6397 in Layer 38

Load this data into an Interactive Neuroscope

See Documentation here

Transformer Lens Loading: HookedTransformer.from_pretrained('gpt2-xl')



Text #0

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.6411. Min Act: -0.1700

Data Index: 3545002 (Open Web Text)

Max Activating Token Index: 746

Click toggle to see full text

Truncated

 large. And it sheds no light at all on the relationship between mind and matter. The fact that it is possible to love ones neighbor as oneself should be a great finding for the field of psychology, but it lends absolutely no credence to the claim that Jesus was the son of God,

Full Text #0

<|endoftext|> look at what makes it so, we see that we are all prisoners of our thoughts. 
 
And then there is death, which defeats everyone. Most people seem to believe that we have only two ways to think about death: We can fear it and do our best to ignore it, or we can deny that it is real. The first strategy leads to a life of conventional worldliness and distractionwe merely strive for pleasure and success and do our best to keep the reality of death out of view. The second strategy is the province of religion, which assures us that death is but a doorway to another world and that the most important opportunities in life occur after the lifetime of the body. But there is another path, and it seems the only one compatible with intellectual honesty. That path is the subject of this book. 
 
ENLIGHTENMENT 
 
What is enlightenment, which is so often said to be the ultimate goal of meditation? There are many esoteric details that we can safely ignoredisagreements among contemplative traditions about what, exactly, is gained or lost at the end of the spiritual path. Many of these claims are preposterous. Within most schools of Buddhism, for instance, a buddhawhether the historical Buddha, Siddhartha Gautama, or any other person who attains the state of �full enlightenmentis generally described as �omniscient. Just what this means is open to a fair bit of caviling. But however narrowly defined, the claim is absurd. If the historical Buddha were �omniscient, he would have been, at minimum, a better mathematician, physicist, biologist, and Jeopardy contestant than any person who has ever lived. Is it reasonable to expect that an ascetic in the fifth century BC, by virtue of his meditative insights, spontaneously became an unprecedented genius in every field of human inquiry, including those that did not exist at the time in which he lived? Would Siddhartha Gautama have awed Kurt Gödel, Alan Turing, John von Neumann, and Claude Shannon with his command of mathematical logic and information theory? Of course not. To think otherwise is pure, religious piety. 
 
Any extension of the notion of �omniscience to procedural knowledgethat is, to knowing how to do somethingwould render the Buddha capable of painting the Sistine Chapel in the morning and demolishing Roger Federer at Centre Court in the afternoon. Is there any reason to believe that Siddhartha Gautama, or any other celebrated contemplative, possessed such abilities by virtue of his spiritual practice? None whatsoever. Nevertheless, many Buddhists believe that buddhas can do all these things and more. Again, this is religious dogmatism, not a rational approach to spiritual life.[14] 
 
I make no claims in support of magic or miracles in this book. However, I can say that the true goal of meditation is more profound than most people realizeand it does, in fact, encompass many of the experiences that traditional mystics claim for themselves. It is quite possible to lose ones sense of being a separate self and to experience a kind of boundless, open awarenessto feel, in other words, at one with the cosmos. This says a lot about the possibilities of human consciousness, but it says nothing about the universe at large. And it sheds no light at all on the relationship between mind and matter. The fact that it is possible to love ones neighbor as oneself should be a great finding for the field of psychology, but it lends absolutely no credence to the claim that Jesus was the son of God, or even that God exists. Nor does it suggest that the �energy of love somehow pervades the cosmos. These are historical and metaphysical claims that personal experience cannot justify. 
 
However, a phenomenon like self-transcending love does entitle us to make claims about the human mind. And this particular experience is so well attested and so readily achieved by those who devote themselves to specific practices (the Buddhist technique of metta meditation, for instance) or who even take the right drug (MDMA) that there is very little controversy that it exists. Facts of this kind must now be understood in a rational context. 
 
The traditional goal of meditation is to arrive at a state of well-being that is imperturbableor if perturbed, easily regained. The French monk Matthieu Ricard describes such happiness as �a deep sense of flourishing that arises from an exceptionally healthy mind.[15] 
 
The purpose of meditation is to recognize that you already have such a mind. That discovery, in turn, helps you to cease doing the things that produce needless confusion and suffering for yourself and others. Of course, most people never truly master the practice and dont reach a condition of imperturbable happiness. The near goal, therefore, is to have an

Text #1

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.6411. Min Act: -0.1700

Data Index: 8130376 (Open Web Text)

Max Activating Token Index: 533

Click toggle to see full text

Truncated

Full Text #1


Text #2

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.4536. Min Act: -0.1700

Data Index: 2731831 (Open Web Text)

Max Activating Token Index: 475

Click toggle to see full text

Truncated

Full Text #2


Text #3

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.5161. Min Act: -0.1700

Data Index: 3987895 (Open Web Text)

Max Activating Token Index: 355

Click toggle to see full text

Truncated

Full Text #3


Text #4

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.4536. Min Act: -0.1700

Data Index: 6939436 (Open Web Text)

Max Activating Token Index: 917

Click toggle to see full text

Truncated

Full Text #4


Text #5

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3911. Min Act: -0.1700

Data Index: 1113207 (Open Web Text)

Max Activating Token Index: 921

Click toggle to see full text

Truncated

Full Text #5


Text #6

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3286. Min Act: -0.1700

Data Index: 1319063 (Open Web Text)

Max Activating Token Index: 644

Click toggle to see full text

Truncated

Full Text #6


Text #7

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3286. Min Act: -0.1700

Data Index: 4086241 (Open Web Text)

Max Activating Token Index: 437

Click toggle to see full text

Truncated

Full Text #7


Text #8

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3911. Min Act: -0.1700

Data Index: 6354901 (Open Web Text)

Max Activating Token Index: 671

Click toggle to see full text

Truncated

Full Text #8


Text #9

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3286. Min Act: -0.1700

Data Index: 5435514 (Open Web Text)

Max Activating Token Index: 275

Click toggle to see full text

Truncated

Full Text #9


Text #10

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3286. Min Act: -0.1700

Data Index: 5050953 (Open Web Text)

Max Activating Token Index: 686

Click toggle to see full text

Truncated

Full Text #10


Text #11

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.3286. Min Act: -0.1700

Data Index: 1076130 (Open Web Text)

Max Activating Token Index: 850

Click toggle to see full text

Truncated

Full Text #11


Text #12

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.2661. Min Act: -0.1700

Data Index: 6951531 (Open Web Text)

Max Activating Token Index: 526

Click toggle to see full text

Truncated

Full Text #12


Text #13

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.2661. Min Act: -0.1700

Data Index: 6931605 (Open Web Text)

Max Activating Token Index: 327

Click toggle to see full text

Truncated

Full Text #13


Text #14

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.2036. Min Act: -0.1700

Data Index: 8651328 (Open Web Text)

Max Activating Token Index: 148

Click toggle to see full text

Truncated

Full Text #14


Text #15

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.1411. Min Act: -0.1700

Data Index: 430982 (Open Web Text)

Max Activating Token Index: 476

Click toggle to see full text

Truncated

Full Text #15


Text #16

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.1411. Min Act: -0.1700

Data Index: 6450767 (Open Web Text)

Max Activating Token Index: 832

Click toggle to see full text

Truncated

Full Text #16


Text #17

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.0786. Min Act: -0.1700

Data Index: 4702154 (Open Web Text)

Max Activating Token Index: 419

Click toggle to see full text

Truncated

Full Text #17


Text #18

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.0786. Min Act: -0.1700

Data Index: 3578868 (Open Web Text)

Max Activating Token Index: 461

Click toggle to see full text

Truncated

Full Text #18


Text #19

Max Range: 8.6411. Min Range: -8.6411

Max Act: 8.0786. Min Act: -0.1700

Data Index: 6815960 (Open Web Text)

Max Activating Token Index: 811

Click toggle to see full text

Truncated

Full Text #19