C#特別適合于構(gòu)造蜘蛛程序，這是因?yàn)樗�已�?jīng)內(nèi)置了HTTP訪問和多線程的能力，而這兩種能力對(duì)于蜘蛛程序來說都是非常關(guān)鍵的。下面是構(gòu)造一個(gè)蜘蛛程序要解決的關(guān)鍵問題：

　　(1)HTML分析：需要某種HTML解析器來分析蜘蛛程序遇到的每一個(gè)頁(yè)面。

　　(2)頁(yè)面處理：需要處理每一個(gè)下載得到的頁(yè)面。下載得到的內(nèi)容可能要保存到磁盤或者進(jìn)一步分析處理。

　　(3)多線程：只有擁有多線程能力，蜘蛛程序才能真正做到高效。

　　(4)確定何時(shí)完成：不要小看這個(gè)問題，確定任務(wù)是否已經(jīng)完成并不簡(jiǎn)單，尤其是在多線程環(huán)境下。

　　一、HTML解析

　　本文提供的HTML解析器由ParseHTML類實(shí)現(xiàn)，使用非常方便：首先創(chuàng)建該類的一個(gè)實(shí)例，然后將它的Source屬性設(shè)置為要解析的HTML文檔：

　　ParseHTML parse = new ParseHTML();

　　parse.Source = "

　　Hello World

　　";

　　接下來就可以利用循環(huán)來檢查HTML文檔包含的所有文本和標(biāo)記。通常，檢查過程可以從一個(gè)測(cè)試Eof方法的while循環(huán)開始：

　　while(!parse.Eof())

　　{

　　char ch = parse.Parse();

　　Parse方法將返回HTML文檔包含的字符--它返回的內(nèi)容只包含那些非HTML標(biāo)記的字符，如果遇到了HTML標(biāo)記，Parse方法將返回0值，表示現(xiàn)在遇到了一個(gè)HTML標(biāo)記。遇到一個(gè)標(biāo)記之后，我們可以用GetTag()方法來處理它。

　　if(ch==0)

　　{

　　HTMLTag tag = parse.GetTag();

　　}

　　一般地，蜘蛛程序最重要的任務(wù)之一就是找出各個(gè)HREF屬性，這可以借助C#的索引功能完成。例如，下面的代碼將提取出HREF屬性的值(如果存在的話)。

　　Attribute href = tag["HREF"];

　　string link = href.Value;

　　獲得Attribute對(duì)象之后，通過Attribute.Value可以得到該屬性的值。

　　二、處理HTML頁(yè)面

　　下面來看看如何處理HTML頁(yè)面。首先要做的當(dāng)然是下載HTML頁(yè)面，這可以通過C#提供的HttpWebRequest類實(shí)現(xiàn)：

　　HttpWebRequest request = (HttpWebRequest)WebRequest.Create(m_uri);

　　response = request.GetResponse();

　　stream = response.GetResponseStream();

　　接下來我們就從request創(chuàng)建一個(gè)stream流。在執(zhí)行其他處理之前，我們要先確定該文件是二進(jìn)制文件還是文本文件，不同的文件類型處理方式也不同。下面的代碼確定該文件是否為二進(jìn)制文件。

　　if( !response.ContentType.ToLower().StartsWith("text/") )

　　{

　　SaveBinaryFile(response);

　　return null;

　　}

　　string buffer = "",line;

　　如果該文件不是文本文件，我們將它作為二進(jìn)制文件讀入。如果是文本文件，首先從stream創(chuàng)建一個(gè)StreamReader，然后將文本文件的內(nèi)容一行一行加入緩沖區(qū)。