Оптимизация кода в процессе разработки программного обеспечения для использования во встроенной системе играет если не первостепенную, то, по крайней мере, значимую роль.
Средства для разработки ПО не могут обеспечить полноценное создание кода и использование полного функционала появляющихся новых процессоров. При усложнении процессорных архитектур становится все сложнее использовать язык assembler, также все чаще прибегают к абстракции через использование языка С, либо операционных систем. Это, с одной стороны, позволяет быстро выйти на рынок с новой архитектурой и стандартными средствами разработки GCC, а с другой стороны — не позволяет достичь расчетной максимальной производительности для данной архитектуры.
Отладочная плата ADSP-BF537 EZ-KIT LITE
Во многом, данное явление характерно для архитектуры blackfin: в погоне за функционалом, предоставляемым операционной системой Linux, порой забывается о той способности процессоров цифровой обработки сигналов, ради которой они изначально создавались. Чтобы получить более эффективный код на выходе, разработчики часто прибегают к переписыванию частей кода на ассемблере. Однако это не является единственным способом повышения производительности.
Во-первых, возможно использовать специфические встроенные функции (built-in functions), которые написаны с учетом данной архитектуры.
Во-вторых, доступны для использования библиотеки.
Инженер компании Analog Devices, Робин Гетс, утверждает, что использование библиотек (специфических для обработки сигналов) и встроенных функций компилятора позволяет улучшить производительность кода без необходимости изучения всей особенности архитектуры процессоров blackfin.
Основные термины и определения
Профилирование — сбор характеристик работы программы, таких как время выполнения отдельных фрагментов, число верно предсказанных условных переходов, число кэш промахов и т. д.
Профилировщик — инструмент, используемый для анализа работы программы.
uClinux — Linux-подобная встраиваемая операционная система для микроконтроллеров, не имеющих блока управления памятью. Начиная с версии ядра 2.5.46, проект был объединён с основной линией разработки ядра Linux. Распространяется в виде дистрибутива uClinux-dist и может использоваться на встраиваемых устройствах. uClinux-dist содержит программные библиотеки, приложения и утилиты. Его можно сконфигурировать и встроить в ядро системы.
GCC(GNUCompilerCollection) — набор компиляторов для различных языков программирования, разработанный в рамках проекта GNU.
BlackfinToolchain (кросс-компилятор) — набор необходимых пакетов программ для компиляции и генерации исполняемого кода из исходных текстов программ для архитектуры Blackfin
Термин профилированиевпервые был представлен в 1971 г. в одной из работ Дона Кнута. С помощью профилирования определяются участки программы, поглощающие большую часть времени работы и в них вносятся улучшения.
Инструментом профилирования является программа-профилировщик, который и используют для анализа программы.
Опции, управляющие оптимизацией gcc
Для кросс-компилятора bfin-linux-uclibc-gcc, как и для компиляторов других архитектур, существует набор флагов, информирующих компилятор о необходимости применения оптимизации:
-O0 — не использовать оптимизацию;
-O, -O1 — компилятор пытается уменьшить размер кода, без оптимизации, для которой требуется большее время компиляции;
-O2 — выполняются почти все поддерживаемые оптимизации, которые не включают уменьшение времени исполнения за счет увеличения длины кода;
-O3 — включает все оптимизации, определяемые -O2, добавляя разворачивание циклов и делая функции inline, что приводит к увеличению размера, но и увеличению производительности;
-Os — оптимизация по размеру исполняемого кода.
Также можно использовать некоторые флаги вида -fфлаг, например -ffast-math (не рекомендуют использовать с одним из -O#),-fomit-frame-pointer.
В пакете uClinux-dist для целей измерения производительности присутствует программа whetstone, состоящая из большого количества операций с плавающей точкой. Более 50% времени программа выполняет математические операции с плавающей точкой.
Данная программа собиралась с различными опциями оптимизации и запускалась на процессоре ADSP-BF537 (частот процессора — 500 МГц, частота шины памяти — 125 МГц) с количеством циклов 30000. Результаты некоторых измерений приведены в таблице:
Флаги кросс-компилятора
Размер файла, байт
Время выполнения, с
-O0
38540
321
-O1
27452
253
-O2
27324
74
-O3
28916
65
-Os
27052
73
-O0 -mfast-fp
31492
228
-O1 -ffast-math -mfast-fp
17380
159
-O2 -mfast-fp
20276
57
-O3 -ffast-math
25800
26
-O3 -ffast-math -mfast-fp
18788
18
Полную таблицу для этого теста можно найти в [1].
Применение встроенных функций
Для эффективного использования архитектурных особенностей процессора blackfin используют встроенные функции (т.н. built-infunction).
Существуют операции как с 16-битными, так и с 32-битными числами с плавающей и фиксированной точкой, а также операции перестановки байтов в слове и операции умножения младших частей слова на старшие.
К сожалению, не реализована возможность использовать циклические буферы и запись в соответствии с обратным двоичным порядком, специфические для БПФ.
Некоторые операции для работы с 16-битными числами представлены в таблице (для функций используется префикс __builtin_bfin_):
Полный список встроенных функций можно найти в [2].
Использование кэша L1
Самой быстрой памятью процессора является кэш первого уровня — L1-cache. По сути, она является неотъемлемой частью процессора, поскольку расположена на одном с ним кристалле и входит в состав функциональных блоков. Память L1 работает на частоте процессора.
Суммарный размер памяти L1 для процессора ADSP-BF537 составляет 132 Кб, из которых:
64 Кб являются статической памятью инструкций;
64 Кб являются статической памятью данных;
4 Кб являются сверхоперативным буфером для данных и не могут быть сконфигурированы как кэш.
При конфигурировании памяти L1 как кэш будут доступны следующее пространство:
16 Кб — для кэша инструкций;
32 Кб — для кэша данных.
Размещение исполняемого кода (программ, данных, функций) в кэше L1 позволяет повысить производительность за счет большей скорости доступа к памяти.
Учитывая ограниченный размер памяти L1 и, как правило, значительно больший размер исполняемого файла, наиболее полезным является размещение наиболее часто используемых и ресурсоемких функций в L1.
Чтобы включить поддержку размещения исполняемого кода в кэше L1 необходимо включение следующих опций процессора в ядре Linux: “EnableICACHE” и “EnableDCACHE”:
Blackfin Processor Options --->
--- Cache Support
[*] Enable ICACHE
[*] Enable DCACHE
[ ] Enable Cache Locking
Policy (Write back) --->
Для размещения приложения в L1 необходимо использовать FDPIC-формат исполняемых файлов и выполнить сборку с опциями компилятору (CFLAGS):
Более подробная информация по использованию кэша L1 находится в [3].
Использование библиотеки libbfdsp
Библиотека libbfdsp представляет собой частично портированную с VisualDSP++ библиотеку, содержащую набор функций для цифровой обработки сигналов. Предоставляются такие функции, как БПФ, операции свертки, комплексные умножения и сложения векторов, расчет фильтров с конечной и бесконечной импульсной характеристиками.
Поскольку Blackfin не содержит сопроцессор плавающей точки, gcc предоставляет библиотеку эмуляции операций с плавающей точкой libbffastfp, оптимизированную для данной архитектуры и написанную на ассемблере. Для ее использования добавляется флаг -mfast-fp. Однако, следует заметить, что исполнение этой библиотеки не соответствует некоторым правилам IEEE-стандарта для чисел с плавающей точкой (например проверку на NaN) для большей производительности.
Комплексные функции:
Операция
Прототип функции
Сложение
complex_double cadd(complex_double a, complex_double b)
Разность
complex_double csub(complex_double a, complex_double b)
Умножение
complex_double cmlt(complex_double a, complex_double b)
Деление
complex_double cdiv(complex_double a, complex_double b)
Прежде чем начать профилирование на встроенной архитектуре, часто бывает полезно изучить распределение производительности на персональном компьютере с помощью утилиты Valgrind.
Valgrind—профилировщик для PC имеющий общую инфраструктуру, позволяющий использовать различные инструменты профилирования.
Для этого пользовательское приложение собирается без оптимизации и с отладочной информацией (флаги gcc -O0 -g), после чего запускается командой:
valgrind --tool=callgrindwhetstone
После завершения выполнения приложения в текущем каталоге создается файл с информацией профилировщика — callgrind.out.#, который может быть обработан утилитой KCachegrind (графический интерфейс KDE) с получением удобочитаемого графика вызовов функций
В результате анализа графика вызова функций можно определить наиболее часто вызываемые функции, чтобы попытаться их оптимизировать в дальнейшем. Проблема использования valgrind для встроенных систем состоит в том, что данная утилита для них не доступна, и результат ее работы на PC может значительно отличаться от реальности.
На рисунке ниже представлена часть дерева вызовов утилиты whetstone:
Простейший способ измерения производительности для процессоров архитектуры blackfin
Стандартный способ построения утилит для профилирования состоит в том, что при входе в функцию и при выходе из нее высчитывается время (либо счетчик тактов) и берется их разность.
Для процессоров Blackfin можно считывать регистры CYCLES и CYCLES2 чтобы определить количество тактов с момента сброса процессора. Функция, возвращающая необходимое значение тактов имеет вид:
static inline unsigned long long read_cycles (void)
Довольно удобным средством профилирования как для PC, так и для встроенных систем, является утилита gcov (GNUCoverage), входящая в комплект gcc. GCOV позволяет на основе имеющихся исходных кодов создавать аннотированные исходные коды.
Для ее применения при сборке приложения задаются опции компилятора, которые добавляют метки входа и выхода во все функции:
CFLAGS += -fprofile-arcs -ftest-coverage -g -O0
При этом создаются файлы с расширением *.gcno.
Далее полученное приложение запускается на целевой архитектуре (в нашем случае на процессоре blackfin). После завершения программы генерируются файлы *.gcda (по умолчанию, если не указана переменная окружения GCOV_PREFIX, данные файлы создаются по тому же пути, где находятся исходные коды программы). Остается только скачать все файлы *.gcda в каталог с исходными кодами и запустить утилиту gcov:
bfin-linux-uclibc-gcc file.gcda
В результате получаем аннотированные файлы *.gcov, по которым можно определить наиболее затратные по производительности места программы.
Первое поле показывает количество вызовов данного участка, второе — номер строки.
Также возможно применять ggcov — утилиту с графическим интерфейсом, показывающую покрытие кода, количество входов в ту или иную функцию.
Участок примера аннотированного исходного кода представлен в таблице:
Количество входов
Номер строки
Исходный код
-:
267:
32001:
268:
for (I = 1; I <= N7; I++)
-:
269:
{
32000:
270:
X = T * DATAN(T2*DSIN(X)*DCOS(X));
32000:
271:
Y = T * DATAN(T2*DSIN(Y)*DCOS(Y));
-:
272:
}
Oprofile
Хорошей альтернативой для встроенного профилировщика является пакет Oprofile, который состоит из двух частей: уровня ядра и уровня пользователя. Соответственно при конфигурировании ядра и пользовательских программ, входящих в uClinux-distribution, должны быть выбраны соответствующие опции. Единственным требованием для приложений собранных для профилирования является параметр -g, для включения отладочной информации.
Пакет Oprofile состоит из нескольких утилит:
bfin_opcontrol — управляющий скрипт;
oprofiled — демон, собирающий информации о профилировании;
opreport — скрипт, выводящий отчет о профилировании.
Для запуска Oprofile необходимо выполнить следующие операции:
Проинициализировать Oprofile
bfin_opcontrol –init
Запустить демон Oprofile указав ему исполняемый файл в опции --image
Далее запустить приложение на выполнение и в процессе его выполнения (или по завершению) можно отслеживать распределение ресурсов.
Вывод данных профилирования:
bfin_opcontrol --dump
opreport -l
Часть отчета, предоставляемого утилитой opreport, представлен в таблице:
Profiling through timer interrupt
samples
%
symbol name
1128
31.9005
___divdf3
580
16.4027
___unpack_d
454
12.8394
___muldf3
403
11.3971
__fpadd_parts
376
10.6335
___pack_d
356
10.0679
___muldi3
122
3.4502
___adddf3
44
1.2443
_P3
30
0.8484
_P0
20
0.5656
___subdf3
10
0.2828
_PA
Видно, что большую часть процессорного времени занимают операции деления, операции распаковки и умножения с плавающей точкой.
Если выполняемое приложение использует разделяемые библиотеки, то в выводе Oprofileбудет отображаться количество ресурсов, занимаемое той или иной библиотекой. Как пример, кодирование оцифрованного звука формата wavв формат ogg:
Profiling through timer interrupt
samples
%
app name
143251
76.2448
libavcodec.so.51.48.0
28086
14.9487
no-vmlinux
10520
5.5992
libavformat.so.52.1.0
3866
2.0577
libgcc_s.so.1
664
0.3534
libuClibc-0.9.29.so
508
0.2704
libavutil.so.49.5.0
336
0.1788
libuClibc-0.9.29.so
Разделяемые библиотеки можно отдельно профилировать с помощью Oprofile, указав их название в опции --image.
Заключение
Знание и учет архитектурных особенностей процессоров Blackfin, использование их мультимедийных возможностей при разработке ПО, позволяет создавать высокопроизводительные приложения для встраиваемых архитектур.
А использование свободной операционной системы Linux (как на PC, так и во встраиваемой системе), а именно существующих специфических утилит отладки и профилирования, постоянно развивающихся и дополняющихся новым функционалом, имеющих порты на другие (отличные от обычного PC) архитектуры, делает процесс разработки и отладки ПО для встраиваемой системы более быстрым и легким.
