最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

FP-growth算法發(fā)現(xiàn)頻繁項(xiàng)集——構(gòu)建FP樹

 更新時(shí)間:2021年06月24日 16:39:41   作者:我是8位的  
常見的挖掘頻繁項(xiàng)集算法有兩類,一類是Apriori算法,另一類是FP-growth。Apriori通過不斷的構(gòu)造候選集、篩選候選集挖掘出頻繁項(xiàng)集,需要多次掃描原始數(shù)據(jù),當(dāng)原始數(shù)據(jù)較大時(shí),磁盤I/O次數(shù)太多,效率比較低下

FP代表頻繁模式(Frequent Pattern),算法主要分為兩個(gè)步驟:FP-tree構(gòu)建、挖掘頻繁項(xiàng)集。

FP樹表示法

FP樹通過逐個(gè)讀入事務(wù),并把事務(wù)映射到FP樹中的一條路徑來構(gòu)造。由于不同的事務(wù)可能會(huì)有若干個(gè)相同的項(xiàng),因此它們的路徑可能部分重疊。路徑相互重疊越多,使用FP樹結(jié)構(gòu)獲得的壓縮效果越好;如果FP樹足夠小,能夠存放在內(nèi)存中,就可以直接從這個(gè)內(nèi)存中的結(jié)構(gòu)提取頻繁項(xiàng)集,而不必重復(fù)地掃描存放在硬盤上的數(shù)據(jù)。

一顆FP樹如下圖所示:

通常,F(xiàn)P樹的大小比未壓縮的數(shù)據(jù)小,因?yàn)閿?shù)據(jù)的事務(wù)常常共享一些共同項(xiàng),在最好的情況下,所有的事務(wù)都具有相同的項(xiàng)集,F(xiàn)P樹只包含一條節(jié)點(diǎn)路徑;當(dāng)每個(gè)事務(wù)都具有唯一項(xiàng)集時(shí),導(dǎo)致最壞情況發(fā)生,由于事務(wù)不包含任何共同項(xiàng),F(xiàn)P樹的大小實(shí)際上與原數(shù)據(jù)的大小一樣。

FP樹的根節(jié)點(diǎn)用φ表示,其余節(jié)點(diǎn)包括一個(gè)數(shù)據(jù)項(xiàng)和該數(shù)據(jù)項(xiàng)在本路徑上的支持度;每條路徑都是一條訓(xùn)練數(shù)據(jù)中滿足最小支持度的數(shù)據(jù)項(xiàng)集;FP樹還將所有相同項(xiàng)連接成鏈表,上圖中用藍(lán)色連線表示。

為了快速訪問樹中的相同項(xiàng),還需要維護(hù)一個(gè)連接具有相同項(xiàng)的節(jié)點(diǎn)的指針列表(headTable),每個(gè)列表元素包括:數(shù)據(jù)項(xiàng)、該項(xiàng)的全局最小支持度、指向FP樹中該項(xiàng)鏈表的表頭的指針。

構(gòu)建FP樹

現(xiàn)在有如下數(shù)據(jù):

  

FP-growth算法需要對原始訓(xùn)練集掃描兩遍以構(gòu)建FP樹。

第一次掃描,過濾掉所有不滿足最小支持度的項(xiàng);對于滿足最小支持度的項(xiàng),按照全局最小支持度排序,在此基礎(chǔ)上,為了處理方便,也可以按照項(xiàng)的關(guān)鍵字再次排序。

第一次掃描的后的結(jié)果

第二次掃描,構(gòu)造FP樹。

參與掃描的是過濾后的數(shù)據(jù),如果某個(gè)數(shù)據(jù)項(xiàng)是第一次遇到,則創(chuàng)建該節(jié)點(diǎn),并在headTable中添加一個(gè)指向該節(jié)點(diǎn)的指針;否則按路徑找到該項(xiàng)對應(yīng)的節(jié)點(diǎn),修改節(jié)點(diǎn)信息。具體過程如下所示:

事務(wù)001,{z,x}

事務(wù)002,{z,x,y,t,s}

事務(wù)003,{z}

事務(wù)004,{x,s,r}

事務(wù)005,{z,x,y,t,r}

事務(wù)006,{z,x,y,t,s}

從上面可以看出,headTable并不是隨著FPTree一起創(chuàng)建,而是在第一次掃描時(shí)就已經(jīng)創(chuàng)建完畢,在創(chuàng)建FPTree時(shí)只需要將指針指向相應(yīng)節(jié)點(diǎn)即可。從事務(wù)004開始,需要?jiǎng)?chuàng)建節(jié)點(diǎn)間的連接,使不同路徑上的相同項(xiàng)連接成鏈表。

代碼如下:

def loadSimpDat():
    simpDat = [['r', 'z', 'h', 'j', 'p'],
               ['z', 'y', 'x', 'w', 'v', 'u', 't', 's'],
               ['z'],
               ['r', 'x', 'n', 'o', 's'],
               ['y', 'r', 'x', 'z', 'q', 't', 'p'],
               ['y', 'z', 'x', 'e', 'q', 's', 't', 'm']]
    return simpDat
def createInitSet(dataSet):
    retDict = {}
    for trans in dataSet:
        fset = frozenset(trans)
        retDict.setdefault(fset, 0)
        retDict[fset] += 1
    return retDict
class treeNode:
    def __init__(self, nameValue, numOccur, parentNode):
        self.name = nameValue
        self.count = numOccur
        self.nodeLink = None
        self.parent = parentNode
        self.children = {}
    def inc(self, numOccur):
        self.count += numOccur
    def disp(self, ind=1):
        print('   ' * ind, self.name, ' ', self.count)
        for child in self.children.values():
            child.disp(ind + 1)

def createTree(dataSet, minSup=1):
    headerTable = {}
    #此一次遍歷數(shù)據(jù)集, 記錄每個(gè)數(shù)據(jù)項(xiàng)的支持度
    for trans in dataSet:
        for item in trans:
            headerTable[item] = headerTable.get(item, 0) + 1
    #根據(jù)最小支持度過濾
    lessThanMinsup = list(filter(lambda k:headerTable[k] < minSup, headerTable.keys()))
    for k in lessThanMinsup: del(headerTable[k])
    freqItemSet = set(headerTable.keys())
    #如果所有數(shù)據(jù)都不滿足最小支持度,返回None, None
    if len(freqItemSet) == 0:
        return None, None
    for k in headerTable:
        headerTable[k] = [headerTable[k], None]
    retTree = treeNode('φ', 1, None)
    #第二次遍歷數(shù)據(jù)集,構(gòu)建fp-tree
    for tranSet, count in dataSet.items():
        #根據(jù)最小支持度處理一條訓(xùn)練樣本,key:樣本中的一個(gè)樣例,value:該樣例的的全局支持度
        localD = {}
        for item in tranSet:
            if item in freqItemSet:
                localD[item] = headerTable[item][0]
        if len(localD) > 0:
            #根據(jù)全局頻繁項(xiàng)對每個(gè)事務(wù)中的數(shù)據(jù)進(jìn)行排序,等價(jià)于 order by p[1] desc, p[0] desc
            orderedItems = [v[0] for v in sorted(localD.items(), key=lambda p: (p[1],p[0]), reverse=True)]
            updateTree(orderedItems, retTree, headerTable, count)
    return retTree, headerTable

def updateTree(items, inTree, headerTable, count):
    if items[0] in inTree.children:  # check if orderedItems[0] in retTree.children
        inTree.children[items[0]].inc(count)  # incrament count
    else:  # add items[0] to inTree.children
        inTree.children[items[0]] = treeNode(items[0], count, inTree)
        if headerTable[items[0]][1] == None:  # update header table
            headerTable[items[0]][1] = inTree.children[items[0]]
        else:
            updateHeader(headerTable[items[0]][1], inTree.children[items[0]])
    if len(items) > 1:  # call updateTree() with remaining ordered items
        updateTree(items[1:], inTree.children[items[0]], headerTable, count)

def updateHeader(nodeToTest, targetNode):  # this version does not use recursion
    while (nodeToTest.nodeLink != None):  # Do not use recursion to traverse a linked list!
        nodeToTest = nodeToTest.nodeLink
    nodeToTest.nodeLink = targetNode
simpDat = loadSimpDat()
dictDat = createInitSet(simpDat)
myFPTree,myheader = createTree(dictDat, 3)
myFPTree.disp()

上面的代碼在第一次掃描后并沒有將每條訓(xùn)練數(shù)據(jù)過濾后的項(xiàng)排序,而是將排序放在了第二次掃描時(shí),這可以簡化代碼的復(fù)雜度。

控制臺(tái)信息:

項(xiàng)的順序?qū)P樹的影響

值得注意的是,對項(xiàng)的關(guān)鍵字排序?qū)?huì)影響FP樹的結(jié)構(gòu)。下面兩圖是相同訓(xùn)練集生成的FP樹,圖1除了按照最小支持度排序外,未對項(xiàng)做任何處理;圖2則將項(xiàng)按照關(guān)鍵字進(jìn)行了降序排序。樹的結(jié)構(gòu)也將影響后續(xù)發(fā)現(xiàn)頻繁項(xiàng)的結(jié)果。

圖1 未對項(xiàng)的關(guān)鍵字排序

圖2 對項(xiàng)的關(guān)鍵字降序排序

總結(jié)  

本派文章就到這里了,下篇繼續(xù),介紹如何發(fā)現(xiàn)頻繁項(xiàng)集。希望能給你帶來幫助,也希望您能夠多多關(guān)注腳本之家的更多內(nèi)容!

相關(guān)文章

  • 詳解利用python識(shí)別圖片中的條碼(pyzbar)及條碼圖片矯正和增強(qiáng)

    詳解利用python識(shí)別圖片中的條碼(pyzbar)及條碼圖片矯正和增強(qiáng)

    這篇文章主要介紹了詳解利用python識(shí)別圖片中的條碼(pyzbar)及條碼圖片矯正和增強(qiáng),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-11-11
  • PyQt5每天必學(xué)之事件與信號(hào)

    PyQt5每天必學(xué)之事件與信號(hào)

    這篇文章主要為大家詳細(xì)介紹了PyQt5每天必學(xué)之事件與信號(hào)的相關(guān)資料,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2018-04-04
  • python實(shí)現(xiàn)Dijkstra算法的最短路徑問題

    python實(shí)現(xiàn)Dijkstra算法的最短路徑問題

    這篇文章主要介紹了python實(shí)現(xiàn)Dijkstra算法的最短路徑問題,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2019-06-06
  • python數(shù)據(jù)庫操作指南之PyMysql使用詳解

    python數(shù)據(jù)庫操作指南之PyMysql使用詳解

    PyMySQL是在Python3.x版本中用于連接MySQL服務(wù)器的一個(gè)庫,Python2 中則使用mysqldb,下面這篇文章主要給大家介紹了關(guān)于python數(shù)據(jù)庫操作指南之PyMysql使用的相關(guān)資料,需要的朋友可以參考下
    2023-03-03
  • Python六大開源框架對比

    Python六大開源框架對比

    在這篇文章里,我們將為Python Web開發(fā)者回顧基于Python的6大Web應(yīng)用框架。無論你是出于愛好還是需求,這六大框架都可能會(huì)成為你工作上不錯(cuò)的得力助手。
    2015-10-10
  • 詳解python的super()的作用和原理

    詳解python的super()的作用和原理

    這篇文章主要介紹了python的super()的作用和原理,super(), 在類的繼承里面super()非常常用, 它解決了子類調(diào)用父類方法的一些問題, 父類多次被調(diào)用時(shí)只執(zhí)行一次, 優(yōu)化了執(zhí)行邏輯,下面我們就來詳細(xì)看一下
    2020-10-10
  • Python中Django框架下的staticfiles使用簡介

    Python中Django框架下的staticfiles使用簡介

    這篇文章主要介紹了Python中Django框架下的staticfiles使用簡介,staticfiles是一個(gè)幫助Django管理靜態(tài)資源的工具,需要的朋友可以參考下
    2015-05-05
  • Python實(shí)現(xiàn)從概率分布中隨機(jī)采樣

    Python實(shí)現(xiàn)從概率分布中隨機(jī)采樣

    這篇文章主要介紹了通過幾個(gè)機(jī)器學(xué)習(xí)中最常用的概率分布為例,來看看如何從一個(gè)概率分布中采樣,文章中的代碼對我們的工作或?qū)W習(xí)具有一定價(jià)值,感興趣的朋友可以了解一下
    2021-12-12
  • Python 實(shí)現(xiàn)數(shù)據(jù)結(jié)構(gòu)-循環(huán)隊(duì)列的操作方法

    Python 實(shí)現(xiàn)數(shù)據(jù)結(jié)構(gòu)-循環(huán)隊(duì)列的操作方法

    這篇文章主要介紹了Python 實(shí)現(xiàn)數(shù)據(jù)結(jié)構(gòu)-循環(huán)隊(duì)列的操作方法,需要的朋友可以參考下
    2019-07-07
  • Windows下PyMongo下載及安裝教程

    Windows下PyMongo下載及安裝教程

    這篇文章主要介紹了Windows下PyMongo下載及安裝教程,本文講解了源碼安裝方法和exe軟件安裝方法,需要的朋友可以參考下
    2015-04-04

最新評(píng)論

玛多县| 南溪县| 常德市| 无为县| 云浮市| 宁陵县| 西乌珠穆沁旗| 安福县| 精河县| 浏阳市| 句容市| 图木舒克市| 昌都县| 龙州县| 句容市| 夏津县| 五华县| 印江| 崇明县| 瑞安市| 鲁山县| 左贡县| 阿克陶县| 台中市| 赤峰市| 宿松县| 龙江县| 沾化县| 揭西县| 东海县| 康保县| 临泽县| 乐至县| 鄱阳县| 丹东市| 南开区| 绥德县| 桓台县| 吉木乃县| 南城县| 大方县|