Паттерсоновский поиск позиции известного фрагмента структуры

В последние годы суперпозиционный метод решения структуры был усовершенствован и дополнен рядом вспомогательных процедур.

На одной из таких вспомогательных процедур стоит остановиться несколько подробнее, так как она предусматривает использование априорных стереохимических данных, от чего, в принципе, у нас нет никаких оснований отказываться.

Речь идет о расшифровке паттерсоновского распределения P(uvω) с помощью фрагмента структуры (молекулы, комплекса), строение которого известно заранее из химических данных. Требуется найти такое расположение этого фрагмента в элементарной ячейке, которое наилучшим образом согласовывалось бы с реальным размещением максимумов (точнее говоря, части максимумов) в распределении P(uvω). Отсюда название методики - паттерсоновский поиск позиции фрагмента.

Требуется выяснить как ориентацию фрагмента относительно кристаллографических осей (три эйлеровых угла), так и величину и направление смещения его из начала координат ячейки (три компоненты переноса).

Первая из этих задач решается анализом P(uvω) в области, непосредственно окружающей начало координат; радиус области должен быть немного больше самого длинного межатомного вектора в рассматриваемом фрагменте. "Звезда" из межатомных векторов фрагмента, отложенных от общего начала координат с "весами" q_k= Z_iZ_j на наружных концах векторов, помещается в точку О паттерсоновского пространства в некоторой произвольной исходной ориентации и размножается элементами симметрии. Ориентация фрагмента последовательно меняется с заранее определенным шагом по каждому из углов, и для каждой ориентации по определенному критерию производится сопоставление значений q_k и значений паттерсоновской функции P_k(uvω) в точках, отвечающих концам лучей "звезды". Критерии сопоставления и отбора наилучшей или нескольких наилучших ориентаций могут быть разными, и останавливаться на этом мы не будем.

После выбора наиболее вероятной (вероятных) ориентаций оператор (реально - вычислительная машина!) приступает к решению второй задачи - поиску наилучшего положения фрагмента в ячейке. Фрагмент структуры с заданной ориентацией помещается своим "ведущим" атомом в некоторое исходное положение и размножается всеми операциями симметрии структуры. Но теперь нас интересуют лишь векторы, связывающие размноженные фрагменты друг с другом. Каждому положению фрагмента отвечает своя "звезда" межфрагментных векторов с весами q_k= Z_iZ_j на концах ее лучей. Для каждого положения производится сопоставление весов q_k и значений P_k(uvω) в соответствующих точках паттерсоновского пространства.

Поиск упрощается тем обстоятельством, что расстояния между атомами симметрически связанных фрагментов должны быть не меньше сумм ван-дер-ваальсовых радиусов этих атомов. Поэтому все звезды, содержащие хотя бы один луч, не удовлетворяющий этому требованию, сразу же отбраковываются.

Несмотря на это упрощение, вторая (трансляционная) часть процедуры паттерсоновского поиска остается значительно более трудоемкой, чем первая, и чаще не приводит к желаемому результату.