Home | Model | Random | Next >

Model: GPT-2 Xl: 48 Layers, 6400 Neurons per Layer

Dataset: Open Web Text

Neuron 0 in Layer 42

Load this data into an Interactive Neuroscope

See Documentation here

Transformer Lens Loading: HookedTransformer.from_pretrained('gpt2-xl')



Text #0

Max Range: 9.1515. Min Range: -9.1515

Max Act: 9.1515. Min Act: -0.1700

Data Index: 7324146 (Open Web Text)

Max Activating Token Index: 642

Click toggle to see full text

Truncated

 is an ongoing source of earned traffic (with some regular maintenance). 
 
Paid search (as the name implies) is not free. It must be constantly fed money to continue producing results. (Theres a reason why Google generated nearly $50 Billion dollars in revenue last year.) Stop feeding

Full Text #0

<|endoftext|>aholic study of 270 million site visits that shows natural search accounts for nearly half of all site visits, which is 5x more than all social visits combined. 
 
Natural search visitors convert better, too. Hubspots data shows they have the best lead-to-customer close percentage of all channels: 
 
Ignorant Boss: 
 
Were Not A Big Brand, So We Have No Shot In The Search Rankings. 
 
Ann Thinks: If I see a dog, does that mean I am familiar with all the characteristics of a cat just because they both have four legs? Just because your past experience has been with marketing channels such as TV, where a massive marketing budget is the cost of admission, doesnt mean its true for every other marketing channel. 
 
Ann Says: It is a myth, albeit a persistent one, that you must be a massive company listed on every stock exchange with billions in annual revenue to make real headway in the search listings. The truth is, although brand recognition helps when it comes to building a robust link graph, search is the great equalizer with an open playing field to those organizations that choose to focus on it. 
 
Take a look at this example SERP for a high volume keyword (web hosting). It shows how small- and medium-sized companies can do quite well in the SERPs. There are many such examples across industries. 
 
Ignorant Boss: 
 
Why Dont We Do Google Ads Instead? We Can Get Traffic Immediately Without All this SEO Business. 
 
Ann Thinks: Just because a 99-cent hamburger gives you immediate gratification doesnt mean its in your long-term best interest. 
 
Ann Says: Paid search ads will give you a more immediate return in some cases, but that is one of many factors to consider when considering investment in Paid vs. Natural search. 
 
Consider the following factors: 
 
Clicks take place in natural search: comScore data show that up to 92% of clicks take place in organic vs. paid search. Studies show a large part of this is because searchers are focused predominantly on the natural search results. This means a brands focusing on paid search means they are not appearing in the real estate where a majority of searcher attention is given. 
 
Image Source 
 
It Costs $$$ to Feed the Paid Search Machine: Paid search (as the name implies) is not free. It must be constantly fed money to continue producing results. (Theres a reason why Google generated nearly $50 Billion dollars in revenue last year.) Stop feeding the Paid Search machine , and it stops driving traffic. Contrast that with natural search — while it is not free and does require an often significant upfront investment, it is an ongoing source of earned traffic (with some regular maintenance). 
 
Paid search (as the name implies) is not free. It must be constantly fed money to continue producing results. (Theres a reason why Google generated nearly $50 Billion dollars in revenue last year.) Stop feeding the Paid Search machine and it stops driving traffic. Contrast that with natural search — while it is not free and does require an often significant upfront investment, it is an ongoing source of earned traffic (with some regular maintenance). More than Half of Search Queries Have No Paid Ads: Given that more than half of all search queries return no paid ads at all, the only way to reach the more than 1.5 Billion queries per day that that represents is by appearing within natural search results. 
 
Ignorant Boss: 
 
We Have a Good Brand and Rank Well for It, So We Dont Need SEO. 
 
Ann Thinks: Thats like saying, �The people in my store are already buying some things so thats enough business for me. 
 
Ann Says: Its pretty normal to be ranking well for your own brand, and searchers who are specifically searching for your brand are likely to already have made a decision to purchase from you. It is the searchers who are searching for terms relevant to your industry, who have not yet made a purchase decision, that you want to capture through SEO. Even a rudimentary scan shows that our brand is not highly visible for the kinds of terms that would generate significant traffic and revenue. 
 
Ignorant Boss: 
 
SEO is Dead! Everyones Investing in Social; Isnt That Where We Should Be Putting Our Money?? 
 
Ann Thinks: Did your mother ask you, �If everyone else was jumping off a bridge, does that mean you should to do it, too? a lot? 
 
Ann Says: Theres no question that Social has a place in the marketers tool

Text #1

Max Range: 9.1515. Min Range: -9.1515

Max Act: 9.0265. Min Act: -0.1700

Data Index: 5124541 (Open Web Text)

Max Activating Token Index: 738

Click toggle to see full text

Truncated

Full Text #1


Text #2

Max Range: 9.1515. Min Range: -9.1515

Max Act: 9.0265. Min Act: -0.1700

Data Index: 2884000 (Open Web Text)

Max Activating Token Index: 930

Click toggle to see full text

Truncated

Full Text #2


Text #3

Max Range: 9.1515. Min Range: -9.1515

Max Act: 9.0265. Min Act: -0.1700

Data Index: 3480168 (Open Web Text)

Max Activating Token Index: 961

Click toggle to see full text

Truncated

Full Text #3


Text #4

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.8390. Min Act: -0.1700

Data Index: 5076806 (Open Web Text)

Max Activating Token Index: 571

Click toggle to see full text

Truncated

Full Text #4


Text #5

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.7765. Min Act: -0.1700

Data Index: 6029673 (Open Web Text)

Max Activating Token Index: 605

Click toggle to see full text

Truncated

Full Text #5


Text #6

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.9015. Min Act: -0.1700

Data Index: 5616903 (Open Web Text)

Max Activating Token Index: 416

Click toggle to see full text

Truncated

Full Text #6


Text #7

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.7765. Min Act: -0.1700

Data Index: 8544401 (Open Web Text)

Max Activating Token Index: 923

Click toggle to see full text

Truncated

Full Text #7


Text #8

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.7765. Min Act: -0.1700

Data Index: 4570903 (Open Web Text)

Max Activating Token Index: 686

Click toggle to see full text

Truncated

Full Text #8


Text #9

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.7140. Min Act: -0.1700

Data Index: 2884003 (Open Web Text)

Max Activating Token Index: 1015

Click toggle to see full text

Truncated

Full Text #9


Text #10

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.6515. Min Act: -0.1700

Data Index: 1600497 (Open Web Text)

Max Activating Token Index: 392

Click toggle to see full text

Truncated

Full Text #10


Text #11

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.6515. Min Act: -0.1700

Data Index: 839140 (Open Web Text)

Max Activating Token Index: 546

Click toggle to see full text

Truncated

Full Text #11


Text #12

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.5890. Min Act: -0.1700

Data Index: 3733019 (Open Web Text)

Max Activating Token Index: 552

Click toggle to see full text

Truncated

Full Text #12


Text #13

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.4640. Min Act: -0.1700

Data Index: 5703613 (Open Web Text)

Max Activating Token Index: 968

Click toggle to see full text

Truncated

Full Text #13


Text #14

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.5265. Min Act: -0.1700

Data Index: 4750741 (Open Web Text)

Max Activating Token Index: 278

Click toggle to see full text

Truncated

Full Text #14


Text #15

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.4640. Min Act: -0.1700

Data Index: 2747025 (Open Web Text)

Max Activating Token Index: 540

Click toggle to see full text

Truncated

Full Text #15


Text #16

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.5265. Min Act: -0.1700

Data Index: 7354076 (Open Web Text)

Max Activating Token Index: 186

Click toggle to see full text

Truncated

Full Text #16


Text #17

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.4640. Min Act: -0.1700

Data Index: 2669539 (Open Web Text)

Max Activating Token Index: 455

Click toggle to see full text

Truncated

Full Text #17


Text #18

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.4640. Min Act: -0.1700

Data Index: 60315 (Open Web Text)

Max Activating Token Index: 833

Click toggle to see full text

Truncated

Full Text #18


Text #19

Max Range: 9.1515. Min Range: -9.1515

Max Act: 8.4640. Min Act: -0.1700

Data Index: 1153930 (Open Web Text)

Max Activating Token Index: 840

Click toggle to see full text

Truncated

Full Text #19