Колера представляет собой концентрированные растворы (суспензии, эмульсии) красителей и пигментов в соответствующих основах. Основы колеров бывают акриловыми, масляными, алкидными, дисперсными водными, и др. В зависимости от того, какая основа краски, которую вы собираетесь колеровать, такой и колер следует применять. В вашем случае, возможно, были использованы несовместимые по основе краска и колер. Например, вы добавили водоэмульсионный колер в масляную краску. Отсюда и результат. На упаковке в обязательном порядке должно быть указание, для каких типов красок подходит колер. А таблицы, о которых вы говорите, скорее всего, таблицы цветов. Они показывают, какие колера, и в каком количестве нужно смешивать для получения желаемого оттенка.