Overview

最近看了几种生物信息学领域的特征提取算法，在观察了已有算法的特点之后，也想尝试着设计新的算法。这里以CKSAAP为基础，介绍一下我们想设计的算法的动机和原理。

CKSAAP的核心原理

关于CKSAAP的算法介绍详细部分可以参考Young写的 蛋白质序列特征提取方法之——CKSAAP。
CKSAAP试图统计刻画出每条序列中不同的氨基酸对出现的特征，它的核心原理可以用下面这个公式表述：

就是统计氨基酸对的出现频率。使用一个氨基酸（例如LE）对在一个序列中出现的次数，除以这个序列中包含的氨基酸对总数。

Motivation

这种方法不能准确地表示氨基酸对在一个序列中出现的关联度，如果它们真的有关联的话。
在CKSAAP中，一个氨基酸对（例如LE）的在特征矩阵中取值高，并不一定是因为关联性高，也有可能是因为L和E单独出现的概率很大，这样的话从概率上来说它们在一起出现的次数也会更多，但并不一定是存在某种关联；另一方面，另一个氨基酸对（例如TW），可能T和W在这个序列中都只出现了两次，但是每次出现，它们都是结对出现，那这种关联性是不是更强呢。
虽然说这两种都是比较极端的情况，但是将氨基酸对的出现次数和这两个氨基酸单独出现的次数一起考虑，可能可以更好地表征氨基酸对的关联性。

设计

我们采用点互信息熵的概念来描述这种关联性，使用下面的公式：

其中,

即 $P_{(x)}$，$P_{(y)}$，$P_{(x,y)}$ 分别为一条序列中x出现的概率，y出现的概率，以及xy序列对出现的概率。

细节讨论

我们通过一个例子讨论这个模型可能出现的问题：
假设有一个长度为100的序列，则$N_{(total)} = 100$，$N_{(totalpair)} = 99$，为了方便计算和观察，我们令$N_{(totalpair)} \approx 100$
在以下两种情况下，我们使用这个模型求氨基酸A和C的点互信息熵。

• Case 1: A和C各只出现1次，AC出现1次

  $P_{(A,C)} = N_{(A,C)} / N_{totalpair} =1/100$
  $P_{(A)} = N_{(A)} / N_{total} = 1/100$
  $P_{(C)} = N_{(C)} / N_{total} = 1/100$
  $\Longrightarrow$
  $P_{(A,C)} / (P_{(A)}P_{(C)}) = \frac{1}{100} / (\frac{1}{100} \ast \frac{1}{100}) = 100$

  $I_{(A,C)} = log \frac{P_{(A,C)}}{ P_{(A)}P_{(C)}} = log 100$

• Case 2: A和C各出现50次，AC出现50次

  $P_{(A,C)} = N_{(A,C)} / N_{totalpair} =50/100$
  $P_{(A)} = N_{(A)} / N_{total} = 50/100$
  $P_{(C)} = N_{(C)} / N_{total} = 50/100$
  $\Longrightarrow$
  $P_{(A,C)} / (P_{(A)}P_{(C)}) = \frac{50}{100} / (\frac{50}{100} \ast \frac{50}{100}) = 2$

  $I_{(A,C)} = log \frac{P_{(A,C)}}{ P_{(A)}P_{(C)}} = log 2$

• Case 3: A和C各只出现10次，AC出现1次

  $P_{(A,C)} = N_{(A,C)} / N_{totalpair} =1/100$
  $P_{(A)} = N_{(A)} / N_{total} = 10/100$
  $P_{(C)} = N_{(C)} / N_{total} = 10/100$
  $\Longrightarrow$
  $P_{(A,C)} / (P_{(A)}P_{(C)}) = \frac{1}{100} / (\frac{10}{100} \ast \frac{10}{100}) = 1$

  $I_{(A,C)} = log \frac{P_{(A,C)}}{ P_{(A)}P_{(C)}} = log 1$